Mattel ve OpenAI arasında işbirliği doğuyor! Bu çocukları olumsuz etkiler mi?
Çocuk refahı uzmanlarına nazaran oyuncak devi Mattel’in eserlerine ChatGPT ekleme planları, “çocuklara gerçek manada ziyan verme” riski taşıyabilir. Barbie’nin üreticisi geçen hafta OpenAI’la işbirliği yaptığını duyurarak gelecekteki oyuncakların tanınan yapay zeka sohbet botunu içereceğini ima etmişti.
Independent Türkçe’nin aktardığı duyuruda teknolojinin nasıl kullanılacağına dair spesifik detaylar yer almasa da Mattel paydaşlığın, “yapay zekayla çalışan eserleri ve tecrübeleri destekleyeceğini” ve “yapay zekanın büyüsünü yaşa uygun oyun tecrübeleriyle buluşturacağını” belirtmişti.
Çocuk refahı savunucuları buna karşılık Mattel’e deneysel teknolojiyi çocuk oyuncaklarına yerleştirmemesi davetinde bulundu.
Savunuculuk örgütü Public Citizen’ın eş başkanı Robert Weissman yaptığı açıklamada, “Çocuklar gerçeklik ve oyun ortasında tam bir ayrım yapabilecek bilişsel kapasiteye sahip değil” dedi.
Oyuncaklara insan gibisi konuşmalar yapabilen, insanlarınki üzere sesler eklemek çocuklara gerçek manada ziyanlar verme riski taşıyor.
Weissman’ın bahsettiği potansiyel ziyanlar ortasında toplumsal gelişimin baltalanması ve çocukların akran bağlantıları kurma maharetlerine mani olunması yer alıyor.
Weissman “Mattel, yapay zeka teknolojisini çocuk oyuncaklarına dahil etmeyeceğini derhal duyurmalı” dedi.
Mattel, yapay zeka içeren oyuncaklar satarak çocuklarımız üzerinde pervasız bir toplumsal deney yapmak için ebeveynlerin kendisine duyduğu inancı kullanmamalı.
The Independent karşılık hakkı için OpenAI ve Mattel’le temasa geçti.
Mattel ve OpenAI’ın işbirliği, ChatGPT üzere üretken yapay zeka sistemlerinin, kullanıcıların ruh sıhhati üzerindeki tesirine ait tasaların arttığı bir periyotta geldi.
Sohbet botlarının yanlış bilgi yaydığı, komplo teorilerini doğruladığı ve hatta teze nazaran kullanıcıları kendilerini öldürmeye teşvik ettiği biliniyor.
Psikiyatristler de yapay zekayla etkileşimlerin yol açtığı, sohbet psikozu ismi verilen bir olguya karşı uyarıyor.
Danimarka’daki Aarhus Üniversitesi’nde psikiyatri alanında öğretim üyesi olan Soren Dinesen Ostergaard, Schizophrenia Bulletin için kaleme aldığı başyazıda “ChatGPT üzere üretken yapay zeka sohbet botlarıyla yapılan yazışmalar o kadar gerçekçi ki, kişi başka uçta gerçek bir insan olduğu izlenimine basitçe kapılıyor” diye yazıyor.
Bana nazaran bu bilişsel çelişkinin, psikoz eğilimi yüksek şahıslarda sanrıları körüklemesi olası görünüyor.
OpenAI’ın işvereni Sam Altman bu hafta yaptığı açıklamada, şirketinin hassas kullanıcıları korumak ismine komplo teorileri içeren konuşmaları kesmek ya da intihar üzere bahisler gündeme geldiğinde insanları profesyonel hizmetlere yönlendirmek üzere yollarla, güvenlik tedbirleri alma tarafında gayret gösterdiğini söylemişti.
Hard Fork podcast’ine konuşan Altman, “Önceki jenerasyon teknoloji şirketlerinin gereğince süratli reaksiyon vermeme üzere yanlışlarına düşmek istemiyoruz” demişti.
Öte yandan ruhsal durumu gereğince kırılgan olan ve psikotik bir kırılmanın eşiğine gelen kullanıcılara nasıl bir ihtar göndereceğimizi şimdi bulamadık.
