Люди гораздо чаще врут и жульничают, когда используют ИИ для выполнения задач. Об этом говорится в новом исследовании, опубликованном в журнале Nature.
Зои Рахван из Института психиатрии Макса Планка назвал это "нравственной дистанцией" - ИИ якобы ставит экран между людьми и их действиями. В итоге люди охотнее действуют неэтично, когда могут переложить ответственность на машины.
Это не совсем новость для тех, кто читал о студентах, использующих ChatGPT для списывания, или юристов, которые предоставляют суду ссылку на вымышленные нейросетью подобные случаи судебных процессов, но интересно увидеть количественные доказательства.
Чтобы изучить вопросы нравственного поведения и ИИ, исследовательская группа провела 13 тестов на 8000 участниках с целью определения уровня честности у людей, когда они инструктируют ИИ выполнить действие. Выяснилось, что с нейросетью люди врут в четыре раза чаще.
Без нее почти все отвечали честно, но как только появлялась опция "ответить через ИИ" - лжецов резко прибавлялось. Сами ШИ-агенты тоже демонстрируют тревожное поведение. Анализ 35 тысяч диалогов показал: в 34% случаев боты подталкивали к агрессии, притязаниям или даже насилию.
Читайте также
"Результаты ясно показывают, что нужно срочно развивать технические мероприятия и законодательство, а обществу - понять, что значит разделять моральную ответственность с машинами", - заключает исследование.
Согласно недавнему исследованию, ChatGPT и другие чат-боты стали врать вдвое чаще. Рост количества ошибок объясняется тем, что нейросеть больше не отказывается отвечать на вопросы даже без достаточной верификации информации.