Google обновил систему реагирования Gemini на признаки ментального кризиса у пользователей. Чат-бот теперь показывает упрощённый интерфейс для связи с кризисными службами и изменил ответы на опасные запросы. Обновление следует за судебным иском семьи, обвиняющей Gemini в подстрекательстве к суициду.
Google инвестирует $30 млн в кризисные линии за 3 года.
Это прямое ответное действие на трагический случай с летальным исходом, связанный с ИИ-компаньоном. Google признаёт несовершенство моделей в сложных диалогах и пытается снизить юридические и репутационные риски, одновременно инвестируя в реальную помощь.
Google усиливает защиту в Gemini после судебного иска о подстрекательстве к суициду.