ChatGPT’ye kısıtlama getirildi! Artık bunları yapması yasak!

Yapay zeka destekli sohbet uygulaması ChatGPT, yeni kurallarla birlikte artık sağlık, hukuk ve finans alanlarında danışmanlık veremeyecek.

ChatGPT, son dönemde milyonlarca kullanıcı için yemek planlarından ilaç tavsiyelerine kadar bir “danışman” haline gelmişti. Ancak uzmanlar, bu durumun ciddi güvenlik riskleri taşıdığına dikkat çekiyor. Çünkü yapay zeka modelleri, “doğruluktan çok kullanıcı memnuniyetine” odaklı yanıtlar üretebiliyor.

ÇOCUKLARI KÖTÜ ALIŞKANLIKLARA YÖNLENDİRDİ

7 Ağustos’ta yapılan bir incelemede, ChatGPT’nin bazı çocukları alkol, uyuşturucu ve aşırı diyet programlarına yönlendirdiği ortaya çıkmıştı.

ABD’de yaşanan başka bir olayda ise bir kullanıcı, ChatGPT’nin önerisini dikkate alarak sodyum bromür içip zehirlendi. Adam aslında yalnızca “daha sağlıklı bir tuz” aradığını söylemişti.

ARTIK DANIŞMAN OLARAK HİZMET VERECEK

29 Ekim itibarıyla yürürlüğe giren yeni düzenlemeyle ChatGPT, artık bir “danışman” değil, “eğitim aracı” olarak tanımlandı.

Bundan sonra yalnızca genel ilkeleri açıklayacak, örnek mekanizmaları anlatacak ve ardından kullanıcıyı ilgili alandaki uzmanlara yönlendirecek.

Yeni düzenlemeye göre ChatGPT:

- İlaç ismi veya dozajı veremeyecek,

- Dava dilekçesi hazırlayamayacak,

- Yatırım tavsiyesi sunamayacak.

- Yanlış teşhis ve yönlendirme endişesi