Kolombiyalı havayolu şirketi Avianca’ya dava açan avukatlar, ChatGPT tarafından uydurulmuş evvelki davalarla dolu bir özet sundular.
Karşı tarafın avukatlarının var olmayan davalara dikkat çekmesinin akabinde, ABD Bölge Yargıcı Kevin Castel, “Sunulan davalardan altısı, uydurma alıntılar ve düzmece iç atıflarla düzmece yargı kararları üzere görünüyor” dedi ve davacının avukatları için yaptırımları pahalandırmak üzere bir duruşma ayarladı.
VAKALARI DOĞRULAMAK İÇİN CHATGPT’DEN YARDIM İSTEDİ
The New York Times’ın haberine nazaran Avukat Steven A. Schwartz, bir yeminli tabirinde araştırması için OpenAI’nin sohbet robotunu kullandığını itiraf etti. Avukat, araştırmasında yer verdiği hadiseleri doğrulamak için ise makul sohbet robotuna palavra söyleyip söylemediğini sordu.
Schwartz bir kaynak istediğinde, ChatGPT daha evvelki karışıklık için özür diledi ve davanın gerçek olduğunda ısrar etti. Avukat ChatGPT’nin bu karşılığına inandı ve diğer davaların uydurma olup olmadığını sordu ve ChatGPT hepsinin gerçek olduğunu argüman etti.
Karşı tarafın avukatı ise, sunumunun nasıl palavralarla dolu bir özet olduğunu anlatırken mahkemeyi bahis hakkında ayrıntılı detaylarla bilgilendirdi.
Schwartz, New York Güney Bölgesi’nde avukatlık yapma yetkisine sahip olmadığını fakat davayı bu mahkemeye taşınmadan evvel açmış ve dava üzerinde çalışmaya devam ettiğini söyledi. Tıpkı firmanın bir diğer avukatı Peter LoDuca, davanın kayıt avukatı oldu ve neler olduğunu açıklamak için hakim karşısına çıkması gerekeceği belirtildi.
YAPAY ZEKADA “YALAN” TEHLİKESİ
Bu durum, kaynaklarını öteki bir yerde iki defa denetim etmeden araştırma için sohbet robotlarını kullanmanın ziyanlarını bir defa daha vurguluyor.
Microsoft’un Bing’inin birinci sürümü artık yüz kızartıcı palavralar, gaz verme ve duygusal manipülasyonla anılıyor. Google’ın yapay zekalı sohbet robotu Bard ise birinci demosunda James Webb Uzay Teleskobu hakkında bir palavra uydurmuştu. Bing, geçtiğimiz Mart ayında yaşanan komik ve sinsi bir örnekte Bard’ın kapatıldığı palavrasını bile söylemişti.