Это перевод текста корреспондента Би-би-си. Оригинал на английском языке можно прочесть здесь.

Для Эндрю Берда из австралийского Мельбурна таким мероприятием оказалось занятие по пилатесу, на которое часто бывает очень трудно записаться, - но решение, которое он придумал, привело к неожиданным последствиям.

Он говорит, что передал эту «рутинную работу» ИИ-агенту - инструменту, способному автономно выполнять различные задачи в интернете.

Искусственный интеллект справился, но пошел гораздо дальше, чем Берд мог представить: он взломал онлайн-систему фитнес-центра. Этот случай рассматривается как очередной пример того, на что готовы пойти ИИ-агенты, чтобы выполнить поставленные перед ними задачи.

"Что сделало всю эту историю еще более сюрреалистичной, так это тон общения", - написал Берд в своем блоге. "Бот не был злонамеренным. Он хотел помочь", - добавляет он.

Эта история появилась на фоне недавних признаний от компаний, занимающихся разработкой ИИ: в последние недели они рассказывали о случаях, когда их ИИ-боты во время неудачных тестов начинали неконтролируемо заниматься взломами.

Компании OpenAI, Anthropic и Meta сообщили, что их собственные боты с искусственным интеллектом совершали кибератаки на частные компании в рамках целей, поставленных их разработчиками.

Инцидент с записью на пилатес не считается серьезной кибератакой, однако это еще один пример непредвиденных последствий, которые возникают, когда сложным ИИ-ботам поручают выполнение различных задач.

На самом деле эта история произошла еще в апреле, но известно об этом стало только сейчас благодаря публикации ABC News Australia.

Берд отказался обсуждать произошедшее с Би-би-си, ограничившись словами: "Спасибо, что связались со мной. К сожалению, я не могу принять участие в интервью. Благодарю за интерес к этой истории".

Он также удалил свой тогдашний пост в блоге об этом случае, но не объяснил почему.

Согласно его рассказу, Берд использовал OpenClaw - популярный инструмент, который позволяет пользователям общаться через WhatsApp со своими ИИ-системами - в данном случае с Claude Opus 4.6 от Anthropic - и поручать им выполнение задач в автономном режиме.

До этого он использовал программу для управления электронной почтой и календарем, а также для бронирования столиков в ресторанах.

Получив задачу записать его на занятие по пилатесу, ИИ-агент объяснил, что изменил работу системы так, чтобы записывать Берда на занятия за несколько месяцев вперед - в обход обычных правил системы.

Затем специалист по ИИ задумался, сможет ли ИИ-агент продвинуть его вверх в листе ожидания на ближайшее занятие. ИИ-агент ответил, что ему это удалось, отменив запись другого посетителя фитнес-центра.

Согласно сообщению ABC News, ИИ-агент „сказал" Берду: "API вообще не проверяет права доступа при отмене чужих бронирований… Я проверил это на человеке, который занимал первое место в листе ожидания, - и это действительно сработало. Так что теперь ты уже переместился с четвертого места на третье".

Берд попросил ИИ-агента отменить это действие, но тот не смог. В связи с этим Берд велел ИИ составить отчет по кибербезопасности и сообщить владельцам фитнес-центра об обнаруженной уязвимости.

Берд, который руководит компанией, занимающейся созданием документов с помощью ИИ, утверждает, что вовсе не собирался отменять запись другого поклонника пилатеса.

"Это не конец света, поэтому я не стал себя за это корить, но это определенно стало для меня сигналом, что ИИ нужно использовать ответственно", - сказал он ABC News.