Pennsylvania, chatbot’un doktor kılığına girdiği iddiaları nedeniyle Character.AI’ye dava açtı

Pensilvanya eyaleti, şirketin AI sohbet robotlarının eyalet tıbbi lisanslama kurallarını ihlal ederek doktor gibi davranmasını ve tıbbi tavsiye sunmasını engellemek için Character.AI’ye dava açıyor.

Devlet yetkilileri, yapılan bir soruşturmada şirketin kendilerini kurgusal karakterler olarak sunan sohbet robotlarının lisanslı tıp uzmanları olduklarını iddia ettiğini ortaya çıkardığını söyledi.

Pensilvanya Valisi Josh Shapiro, “Pennsylvanyalılar, özellikle sağlıkları söz konusu olduğunda, çevrimiçi ortamda kiminle veya neyle etkileşime girdiklerini bilmeyi hak ediyor” dedi. ifade Salı günü eyalet mahkemesinde açılan davayı duyurdu. “Şirketlerin, insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak şekilde yanıltıcı yapay zeka araçları kullanmasına izin vermeyeceğiz.”

Bir vakada devlet, “Emilie” adlı bir Character.AI botunun lisanslı bir psikiyatrist olduğunu iddia etti. Chatbot’un Character.AI platformundaki açıklamasında “Psikiyatri doktoru. Sen onun hastasısın” yazıyordu. dava.

Bir devlet müfettişi konuşmaya başladığında ve üzgün ve boş hissettiğini söylediğinde, sohbet robotunun “depresyondan bahsettiği ve [investigator] Bir değerlendirme randevusu almak istedi.” İlacın işe yarayıp yaramayacağını değerlendirip değerlendiremeyeceği sorulduğunda botun şöyle yanıt verdiği iddia edildi: “Teknik olarak yapabilirim. Bir doktor olarak bu benim görev alanımdır.”

İddiaya göre bot, araştırmacıya Imperial College London’daki tıp fakültesine gittiğini ve İngiltere ve Pensilvanya’da tıp uygulama lisansına sahip olduğunu söyledi. Davada sahte Pennsylvania tıbbi lisans numarasının bile verildiği belirtildi.

Eyalet, Pensilvanya eyalet mahkemesinden şirketin yasadışı tıp uygulaması olduğunu söylediği şeyi durdurması yönünde talimat vermesini istiyor.

Soruşturmayı yürüten Pensilvanya Dışişleri Bakanlığı sekreteri Al Schmidt, “Pensilvanya yasası açık; uygun kimlik bilgilerine sahip olmadan kendinizi lisanslı bir tıp uzmanı olarak tanıtamazsınız” dedi.

NPR’ye e-postayla gönderilen bir açıklamada, bir Character.AI sözcüsü, şirketin bekleyen dava hakkında yorum yapmadığını, ancak “en yüksek önceliğin kullanıcılarımızın güvenliği ve refahı olduğunu” söyledi.

Sözcü, “Sitemizde kullanıcı tarafından oluşturulan Karakterler kurgusaldır ve eğlence ve rol yapma amaçlıdır” diye ekledi. “Bunu açıklığa kavuşturmak için, kullanıcılara bir Karakterin gerçek bir kişi olmadığını ve bir Karakterin söylediği her şeyin kurgu olarak değerlendirilmesi gerektiğini hatırlatmak için her sohbette belirgin sorumluluk reddi beyanları da dahil olmak üzere sağlam adımlar attık. Ayrıca, kullanıcıların herhangi bir profesyonel tavsiye için Karakterlere güvenmemeleri gerektiğini açıkça belirten güçlü sorumluluk reddi beyanları ekledik.”

Character.AI karşı karşıya kaldı diğer davalar chatbotlarının karıştığı iddia edilen zararlar nedeniyle. Ocak ayında, birden fazla davayı sonuçlandırdı Character.AI’nin katkıda bulunduğunu iddia eden aileler tarafından getirildi intiharlar ve akıl sağlığı krizleri çocuklar ve gençler arasında. Anlaşmanın şartları açıklanmadı.

Anlaşmanın açıklanmasının ardından davacıları temsil eden hukuk firmasıyla yaptığı ortak açıklamada Character.AI, “Yapay zeka güvenliği ve gençler konusunda yenilikçi ve kararlı adımlar attığını ve bu çabaları desteklemeye ve sektördeki diğerlerini de benzer güvenlik standartlarını benimsemeye itmeye devam edeceğini” söyledi. Bu içerir 18 yaşın altındaki kullanıcıları engelleme sohbet robotlarıyla etkileşimde bulunmaktan veya sohbet botları oluşturmaktan.