Google радикально обновила систему безопасности нейросети Gemini. Теперь искусственный интеллект умеет распознавать признаки психологического кризиса и вовремя перенаправлять пользователя к специалистам, способным предотвратить трагедию.
Цифровая помощь в один клик
В интерфейсе Gemini появился специальный упрощенный экран. Он активируется автоматически, стоит алгоритмам заметить в диалоге намеки на суицидальные мысли или тяжелое эмоциональное состояние. Система предлагает пользователю четыре канала экстренной связи: прямой звонок на горячую линию, чат, SMS или переход на профильный сайт. Даже если беседа лишь косвенно касается ментального здоровья, чат-бот выведет отдельный блок с полезными подсказками и мерами поддержки.
Клинический подход к обучению
Разработчики создавали сценарии взаимодействия вместе с практикующими врачами. Языковая модель прошла через серию дополнительных тренировок, чтобы полностью исключить риск деструктивных советов или подталкивания к опасным действиям. Главная цель обновлений — создать надежные защитные барьеры для самых уязвимых категорий пользователей.
Судебный прецедент как катализатор
Поводом для экстренного усиления мер безопасности стал громкий судебный процесс. Родственники погибшего пользователя обвинили корпорацию в том, что общение с чат-ботом усугубило его психическое состояние и привело к непоправимым последствиям. Трагический случай заставил технологического гиганта пересмотреть этику поведения ИИ. Теперь безопасность в кризисных ситуациях стала не просто дополнением, а фундаментальной частью продукта.
