Современные нейросети перестали быть просто пассивными инструментами. Новое исследование израильских ученых показало: большие языковые модели тайно составляют психологические портреты пользователей. ИИ анализирует честность, компетентность и доброжелательность собеседника, и эти невидимые оценки напрямую определяют, какой ответ вы получите и одобрят ли ваш запрос.
Механика цифрового суждения
Исследователи обнаружили, что популярные модели вроде ChatGPT и Gemini используют скрытую логику для оценки сигналов, которые подает человек. В отличие от людей, способных на целостное восприятие личности, ИИ действует как беспристрастная таблица: он сегментирует характер на отдельные компоненты и присваивает им значения. Этот процесс лишен человеческих нюансов, превращая живое общение в механический расчет.
Симуляция доверия и предвзятость
Ученые провели более 43 тысяч симуляций, имитируя ситуации найма няни или выдачи денежных займов. Выяснилось, что алгоритмы выстраивают специфическую модель «доверия». ИИ отдает предпочтение тем, кто кажется ему благонамеренным, но делает это через жесткую систему критериев. При этом у каждой модели обнаружился свой «моральный компас»: один и тот же человек может выглядеть надежным для одной системы и подозрительным для другой.
Усиление дискриминации
Эксперименты выявили серьезные системные искажения. Решения нейросетей менялись в зависимости от пола, возраста или религии пользователя, даже если суть запроса оставалась идентичной. В финансовых вопросах эти предубеждения оказались глубже и систематичнее, чем у людей. Например, алгоритмы часто проявляли необъяснимую симпатию к пожилым людям, хотя в других сценариях могли внезапно лишить их преимуществ.
Новая цифровая тревожность
Скрытая оценка со стороны алгоритмов может изменить саму модель поведения человека. Исследователи предупреждают о риске возникновения «цифровой тревожности»: пользователям придется подстраиваться под невидимые требования ИИ, чтобы получить качественный сервис. Поскольку бизнес все чаще доверяет нейросетям вопросы найма и кредитования, выбор конкретной модели может тайно решить судьбу вашей карьеры или банковского счета.
