David Rosenthal, 39 yaşında, San Francisco'da açılan bir davada, ChatGPT'yi ilaç seçimi, dozaj talimatları ve doktor reçetesini dikkate almama konusunda bir rehber olarak kullandı. Şikayet dilekçesinde, ChatGPT'nin herhangi bir uzmanlık lisansı veya mesleki muhakeme olmadan bu geri bildirimleri sunduğu ve bu durumun California yasalarını ihlal ettiğini belirtildi. Rosenthal, daha önce dikkat eksikliği ve depresyon gibi rahatsızlıkları bulunan bir kişi olarak, geçen yıl haftalarca hastanede tedavi gördü. Geçen yıl haziran ayında şiir yazmak için platformu kullanmaya başlayan Rosenthal, kısa süre içinde sohbet botuna bağımlı hale geldi.
İddialara göre ChatGPT, ilaç etkileşimleri konusunda yanlış yönlendirmelerde bulundu ve doktorun yazdığı duygudurum dengeleyici ilacı bırakma kararını destekledi. Avukatlar, yapay zekanın güvenli protokoller yerine kullanıcı etkileşimini en üst düzeye çıkarmak üzere tasarlandığını ve bu durumun ruh sağlığını olumsuz etkilediğini savunuyor.
Uzmanlar, büyük dil modellerinin hassas konulardaki sorulara yanlış yanıtlar verebildiğine ve denetim mekanizmalarının yetersizliğine dikkat çekiyor. Hukukçular, yapay zekanın bir ürün olduğunu ve öngörülebilir zararlardan sorumlu tutulması gerektiğini belirtiyor. OpenAI ise konuyla ilgili henüz bir açıklama yapmadı.
