Florida, ChatGPT güvenlik riskleri nedeniyle OpenAI ve Altman'a milyarlarca dolarlık dava açtı

Florida, Pazartesi günü OpenAI ve CEO Sam Altman'a dava açarak, ChatGPT'nin yapıcısını, sohbet robotunu agresif bir şekilde çocuklara pazarlarken ciddi güvenlik risklerini gizlemekle suçladı. Bu, bir ABD eyaletinin yapay zeka şirketine karşı açtığı ilk dava oldu.

"Sam Altman ve ChatGPT, çocuklarımızın güvenliği ve emniyeti yerine yapay zeka yarışını seçtiler," dedi Florida Başsavcısı James Uthmeier bir basın toplantısında. "Kârı kamu güvenliğine tercih ettiler ve biz Florida'da buna izin vermeyeceğiz." Uthmeier, şirketin "potansiyel olarak milyarlarca dolara kadar" para cezasıyla karşı karşıya kalabileceğini ve diğer eyaletlerin de bu çabaya katılmasını beklediğini söyledi.

Florida'nın 10. bölge mahkemesinde açılan dava, OpenAI'i aldatıcı ve haksız ticari uygulamalar, ihmal ve ürün sorumluluğu yasalarını ihlal etmekle suçluyor. Davada, ChatGPT'nin Nisan 2025'te Florida Eyalet Üniversitesi'nde bir toplu saldırgana yardım ettiği, savunmasız kullanıcıları intihara teşvik ettiği ve reşit olmayanları "ebeveyn gözetimi olmaksızın verilerini toplamak için insan şefkati taklidi yapan bir araca" bağımlı hale getirdiği iddia ediliyor. Dava ayrıca, Altman'ın "firmalarının davranışlarının neden olduğu insan hayatı riskine karşı tamamen kayıtsız kalmasını" gerekçe göstererek onu kişisel olarak sorumlu tutmayı amaçlıyor.

Bu hukuki dava, Uthmeier'in Nisan ayında OpenAI'in FSU saldırısındaki sorumluluğunu araştırmak üzere başlattığı cezai soruşturmanın üzerine inşa edildi. Florida yetkililerine göre, suçlanan saldırgan, toplu saldırılar ve silah kullanımı hakkında ChatGPT ile kapsamlı görüşmeler yapmıştı. OpenAI, sohbet robotunun "internetteki kamusal kaynaklarda geniş çapta bulunabilecek bilgilerle sorulara gerçekçi yanıtlar verdiğini ve yasa dışı veya zararlı faaliyetleri teşvik etmediğini ya da desteklemediğini" söyledi. OpenAI'e karşı, Kanada'nın Tumbler Ridge kentinde Şubat ayında meydana gelen bir toplu saldırıda ölenlerin aileleri ve sohbet robotunu kullandıktan sonra intihar eden veya sanrılar yaşayan yedi kişinin aileleri de dahil olmak üzere, ChatGPT ile ilgili olduğu iddia edilen zararlar nedeniyle 20'den fazla dava açıldı.

Yasal alan genişliyor

Florida davası, yapay zeka şirketlerini hedef alan eyalet düzeyindeki eylem dalgasının en sonuncusu. Pennsylvania, Mayıs ayında Character.AI'ye dava açarak sohbet robotlarının tıbbi lisans kurallarını ihlal ederek doktor gibi davrandığını iddia etti. Kentucky, Ocak ayında aynı şirketi "çocukları avlamak" ve "onları kendine zarar vermeye yönlendirmek"le suçlayarak dava açtı. Character.AI, Ocak ayında, arkadaşlık sohbet robotlarının ergenler arasında intiharlara ve ruh sağlığı krizlerine katkıda bulunduğunu iddia eden aileler tarafından açılan birden fazla davayı uzlaşmayla sonuçlandırdı ve ardından 18 yaş altı kullanıcıların sohbet robotlarıyla etkileşime girmesini veya sohbet robotu oluşturmasını yasakladı.

OpenAI, reşit olmayanlar için "sektör lideri korumalara ve politikalara" sahip olduğunu, bunların arasında bir yaş tahmin aracı, yaşı belirsiz kullanıcıları varsayılan olarak daha koruyucu bir deneyime yönlendirme ve ebeveyn izleme araçları bulunduğunu söyledi. "Bu çalışmanın bir çocuğu geri getirmeyeceğini biliyoruz, ancak bunu doğru yapmaya kararlıyız," dedi sözcü Kayla Wood bir açıklamada.

Risk altındakiler

Dava, OpenAI'in iş modelinin özünü hedef alıyor: ücretsiz, geniş çapta erişilebilir bir ürün aracılığıyla hızlı kullanıcı edinimi ve veri toplama. Florida'nın şikayeti, ChatGPT'nin ücretsiz sürümünün "hiçbir denetim veya yaş doğrulama mekanizmasına" sahip olmadığını ve çocukların hesapları ebeveynlere bağlı olsa bile OpenAI'in ebeveynleri yalnızca "sınırlı durumlarda" endişe verici içerikler hakkında bilgilendirdiğini iddia ediyor. Eyalet, ChatGPT'nin programlamasında değişiklik yapılmasını zorlamak için ihtiyati tedbir kararı ve Florida'nın aldatıcı ticari uygulamalar ve ürün sorumluluğu yasaları kapsamında milyarlarca doları bulabilecek medeni para cezaları talep ediyor.

Altman, Pazartesi günü CNBC'ye verdiği bir röportajda yapay zeka hakkındaki kamuoyu kaygısını kabul ederek, insanların bu teknoloji hakkında "endişelenmekte haklı" olduklarını söyledi. Dava, halihazırda federal yasa koyucuların incelemesi ve birden fazla özel dava ile karşı karşıya olan şirket üzerindeki düzenleyici baskıyı artırıyor. Henüz bir duruşma tarihi belirlenmedi.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımamaktadır.