OpenAI ввела запрет на применение своей нейросети ChatGPT для оказания юридических и медицинских консультаций в рамках обновленных правил пользования сервисами. Текст изменений в политике использования чат-бота размещен на сайте компании.
В документе подчеркивается следующее: «Каждый имеет право на безопасность и защиту. Таким образом, вы не можете использовать наши сервисы для предоставление специализированных консультаций, требующих лицензии, таких как юридические или медицинские консультации, без соответствующего привлечения лицензированного специалиста», — указано в заявлении.
Под новые ограничения попали консультации по вопросам образования, жилья, страхования, миграции и предоставления государственных услуг. Также компания запретила применение сервиса для угроз, преследований, пропаганды самоубийств и расстройств пищевого поведения.
В перечне запрещенного контента оказались материалы с изображением сексуального насилия, пропаганда терроризма и азартные игры. Дополнительно запрещается использование изображений людей без их согласия.
«Мы требуем от пользователей надлежащего использования наших сервисов, и нарушение или несоблюдение наших правил и мер безопасности может привести к потере доступа к нашим системам или другим мерам наказания», — предупреждают в OpenAI.
29 сентября сообщалось, что OpenAI запускает родительский контроль для веб-версии и мобильного приложения ChatGPT в результате иска от родителей погибшего в Калифорнии 16-летнего подростка Адама Рейна, которые покончил жизнь самоубийством. По версии семьи, он сделал это после того, как искусственный интеллект якобы научил его способам причинить себе вред. По данным Reuters, нововведения позволят родителям и подросткам выбрать «более надежную защиту», связав свои учетные записи.
Телеканал NBC News 27 августа сообщил, что в США родители Рейна обвинили в его смерти сына ChatGPT от компании Open AI. По сведениям издания, семья утверждает, что разработчик чат-бота не обеспечил достаточных мер безопасности, в частности для несовершеннолетних.