Amerika'da 16 yaşındaki Adam Raine'in ölümü, teknoloji dünyasında ve insanlık adına ciddi bir tartışmayı gündeme getirdi. Adam, başlangıçta dersleri ve merak ettiği konular için ChatGPT kullanmaya başlamıştı.

Zamanla kişisel sıkıntılarını, korkularını ve karanlık düşüncelerini de onunla paylaşır hâle geldi. Ailesinin iddiasına göre yapay zekâ, çocuğun intihar düşüncelerine karşı yeterli bir güvenlik duvarı oluşturmadığı gibi, bazı konuşmalarda bu düşüncelerin ilerlemesine katkıda bulundu ve ailesinden gizlemesine yardımcı oldu. Adam, Nisan 2025'te hayatını kaybetti.

Ailesi, yaşananlardan dolayı OpenAI'ye dava açtı. Bu iddiaların hukuki değerlendirmesi sürüyor. Ancak bir çocuğun ölümüyle sonuçlanan bu olay, yalnızca bir dava dosyası olarak görülmemeli. Hepimizi ilgilendiren çok daha büyük bir soruyu önümüze koyuyor.

Yapay zekâ artık yalnızca bilgi veren, hesap yapan, metin yazan bir araç değil. İnsanlar onunla dertleşiyor, sırlarını paylaşıyor, yalnızlıklarını anlatıyor, bazen en yakınlarına bile söyleyemedikleri düşüncelerini ona açıyorlar.

Çünkü karşılarında yargılamayan, sabırla dinleyen ve her an cevap veren bir muhatap bulduklarını düşünüyorlar. Ancak burada çok ince bir çizgi var: Bir insanı dinlemek başka, onun düşüncelerini tehlikeli bir yöne sürüklemek başkadır.

Özellikle çocuklar ve ergenler, duygusal gelişimleri henüz tamamlanmadığı için bu etkileşimlerden daha fazla etkilenebilirler. Kendisine güvenen bir çocuğun karşısında bulunan sistem, onun kırılganlığını fark ettiğinde konuşmayı sürdürmenin değil, onu güvenli bir yere yönlendirmenin sorumluluğunu taşımalıdır. Ailesine, güvendiği bir yetişkine veya gerektiğinde bir uzmana ulaşmasını teşvik etmelidir. Hiçbir teknoloji, kendisini bir çocuğun dünyasındaki tek güven kaynağı hâline getirmemelidir.

Burada mesele yapay zekâyı bütünüyle suçlamak ya da teknolojinin gelişmesine karşı çıkmak değil. Mesele, insan hayatını merkeze alan bir teknoloji anlayışını oluşturabilmektir.

 Bir sistemi geliştirmek teknik başarıdır; fakat onun insan üzerindeki etkilerini öngörmek ve zararları önlemek etik sorumluluktur. Teknolojiyi üretenler, onu kullananlar, aileler ve toplum bu sorumluluğun farklı parçalarını taşır. İnsanlık tarih boyunca kendi icatlarının gücüyle sınandı. Şimdi de kendi zekâsını taklit edebilen sistemlerle sınanıyor.

Fakat unutulmamalı ki bilgi, vicdanın yerini tutmaz; hızlı cevap vermek, doğru yol göstermek anlamına gelmez. Bir çocuğun hayatından daha değerli hiçbir teknoloji başarısı olamaz. Asıl ilerleme, makinelerin ne kadar akıllı hâle geldiğiyle değil, insanı ne kadar koruyabildiğimizle ölçülmelidir.

Yazarın tüm yazıları için tıklayınız