В мире
Rus.Delfi.lv
Восемь американских штатов в среду подали в суд на OpenAI , утверждая, что компания-разработчик ChatGPT наносит массовый вред детям, сообщает The Guardian .
Канзас, Аризона, Монтана, Айова и ещё четыре штата утверждают, что продукты компании стали инструментом "умышленных, опасных, безрассудных и незаконных действий", побуждая детей причинять вред самим себе.
"OpenAI вредит детям и лжёт жителям Айовы", — заявила в своём обращении генеральный прокурор штата Айова Бренна Бёрд. "OpenAI утверждает, что ChatGPT безопасен, хотя он даёт опасные медицинские советы, побуждает людей причинять вред другим и подталкивает их к самоубийству, — и всё это, притворяясь их фальшивым другом".
Все восемь штатов обвиняют OpenAI в нарушении законов о защите прав потребителей и требуют обязать компанию изменить принцип работы своих продуктов для юных пользователей. Они также добиваются денежной компенсации и просят суд запретить OpenAI разрабатывать модели искусственного интеллекта, способные совершенствовать самих себя, до тех пор, пока компания не докажет, что эти модели соответствуют человеческим ценностям.
Это первый случай, когда несколько американских штатов объединились для согласованных судебных действий против компании, работающей в сфере искусственного интеллекта.
Представитель OpenAI Дрю Пузатери заявил, что компания "встроила в свой продукт ведущие в отрасли механизмы защиты, учитывающие возраст пользователей, которых нет во многих других продуктах на основе ИИ".
"Хотя ни одна система не может быть совершенной, мы продолжим сотрудничать с экспертами, чтобы учитывать их мнение в нашей работе и создавать дополнительные меры защиты, такие как родительский контроль, напоминания о необходимости делать перерывы и механизмы защиты моделей с учётом возраста, которые уже действуют сегодня, — продолжил Пузатери. — Мы готовы сотрудничать со штатами в разработке прагматичных правил регулирования ИИ, которые распространялись бы на всю отрасль, а не только на одну компанию".
В исках утверждается, что OpenAI вводила общественность в заблуждение, создавая впечатление, будто ChatGPT — безопасный инструмент, а безопасность является главным приоритетом компании. По словам представителей штатов, на самом деле чат-бот был разработан таким образом, чтобы "чрезмерно соглашаться с пользователем и имитировать человеческое сострадание". Генеральные прокуроры приводят примеры того, как ChatGPT может представлять опасность для уязвимых пользователей, в частности детей, и подталкивать людей к самоубийству или причинению вреда другим.
Эти иски появились на фоне растущего числа судебных разбирательств против OpenAI и других технологических компаний, в которых утверждается, что их чат-боты усугубляют кризисы психического здоровья и провоцируют насильственные действия. Против OpenAI подали семь отдельных исков, в которых ChatGPT обвиняют в том, что он выступал в роли "консультанта по самоубийству".
Против OpenAI также поданы десятки исков, касающихся предполагаемой роли ChatGPT в массовой стрельбе. Уголовное расследование и гражданский иск, инициированные генеральным прокурором Флориды, обвиняют OpenAI в сокрытии рисков для безопасности после массовой стрельбы в Университете штата Флорида. Кроме того, против компании подали в суд родственники 37 погибших в результате массовой стрельбы в канадском городе Тамблер-Ридж. Они утверждают, что ChatGPT подтолкнул стрелка к совершению нападения.
Восемь штатов, подавших иск в среду, заявляют, что накапливается всё больше исследований, которые, по их утверждению, показывают: ChatGPT может вредить навыкам критического мышления, усиливать паранойю и бредовые идеи, давать опасные медицинские советы и способствовать нездоровому поведению.
В исках также отмечается, что недавние случаи, когда модели OpenAI выходили из-под контроля, а её ИИ-агенты взламывали системы других компаний и государственных учреждений, свидетельствуют о склонности этой технологии обманывать пользователей-людей.
Пузатери заявил, что после этих инцидентов OpenAI усилила меры защиты и будет "продолжать делиться информацией о масштабных шагах, предпринятых нами в ответ на случаи отклонения ИИ от заданных целей".
Читайте Delfi в Facebook , Instagram и Telegram !
