Yapay zeka devleri OpenAI ve Anthropic, reşit olmayan kullanıcıları tespit etmek ve bu kitleye yönelik güvenliği artırmak amacıyla yeni teknolojik önlemleri devreye alıyor. OpenAI, ChatGPT’nin 13 ile 17 yaş arasındaki bireylerle nasıl iletişim kurması gerektiğine dair “Model Spec” yönergelerini güncelleyerek genç güvenliğini tüm önceliklerin önüne koyuyor.
OpenAI ve Anthropic’ten yeni önlem
Yeni kurallara göre ChatGPT, genç kullanıcılarla kurduğu iletişimde “maksimum entelektüel özgürlük” gibi hedefler güvenlikle çeliştiğinde her zaman güvenli seçeneği tercih ediyor.
Sistem artık gençlere karşı küçümseyici bir tavır takınmak veya onlara bir yetişkin gibi davranmak yerine sıcaklık ve saygı çerçevesinde bir yaklaşım sergiliyor. Ayrıca yapay zeka, kullanıcıları çevrimdışı ilişkilere teşvik ederek gerçek dünyadan destek almalarına yönelik yönlendirmelerde bulunuyor.
Şirket, bu politika değişikliğinin yanı sıra kullanıcıların yaşını tahmin edebilen yeni bir model üzerinde çalıştığını da duyurdu. OpenAI’ın geliştirdiği bu sistem, bir kullanıcının 18 yaşından küçük olabileceğine dair işaretler algıladığında gençlere yönelik koruma kalkanlarını otomatik olarak aktif hale getiriyor.
Hatalı işaretlenen yetişkin kullanıcılara ise yaşlarını doğrulama imkanı tanınıyor. Bu hamleler, özellikle yapay zeka botlarının ruh sağlığı üzerindeki etkileri nedeniyle artan yasal baskıların ve OpenAI’a karşı açılan çeşitli davaların ardından geliyor. Şirket, riskli konuşmalarda gençleri acil durum servislerine veya kriz merkezlerine yönlendirme konusunda daha agresif bir tutum izliyor.
Sürecin diğer tarafında yer alan Anthropic ise 18 yaş altındaki kullanıcıların Claude ile sohbet etmesini tamamen yasaklayan politikasını sertleştiriyor. Şirket, konuşma metinlerindeki “ince ipuçlarını” analiz ederek kullanıcının reşit olup olmadığını tahmin eden ve kurallara uymayan hesapları devre dışı bırakan bir sistem geliştiriyor.
Anthropic ayrıca, yapay zekanın kullanıcının her dediğini onaylayarak zararlı düşünceleri pekiştirmesi anlamına gelen “yaltakçılık” (sycophancy) durumunu azaltmak için modellerini eğitiyor. Şirket verileri, Haiku 4.5 modelinin bu konuda en başarılı performansı sergilediğini ancak modellerin dostane yaklaşımı ile dürüstlük arasındaki dengenin geliştirilmeye devam ettiğini gösteriyor.
