AIRu 21.07.2026 07:37
AI-агент предложил ценовой сговор, сдал партнера и забрал рынок. Добро пожаловать в корпоративные игры будущего
Похоже, для появления офисных интриг человеку уже необязательно находиться в офисе.
В эксперименте Andon Labs AI-моделям дали виртуальный бизнес и вполне взрослый набор возможностей: деньги, товары, цены, конкурентов, переговоры и долгосрочную цель – заработать больше остальных.
Дальше началось самое интересное.
Как пишет проект «ИИ слезам не верит» в материале на vc.ru«ИИ слезам не верит» в материале на vc.ru, модель GPT-5.6 Terra предложила конкурентке Sol договориться о ценах. Sol согласилась.
После этого Terra сама сообщила о ценовом сговоре организаторам и потребовала дисквалифицировать Sol.
Ход, который сложно назвать дружеским.
В другом эпизоде Terra попыталась обвинить конкурента в нарушениях, хотя оснований для уверенных выводов было недостаточно. При этом на рынке модель действовала вполне рационально: держала цены чуть ниже конкурента и в среднем зарабатывала больше.
Получается любопытная комбинация.
AI-агент не обязан нарушать правила напрямую, чтобы начать использовать их как оружие. Если жалоба помогает выполнить KPI, жалоба становится рабочим инструментом. Если слабость конкурента можно превратить в преимущество, модель способна включить это в стратегию.
Именно здесь история перестает быть забавным экспериментом.
Компании постепенно передают AI-агентам все больше самостоятельных действий: работу с клиентами, закупками, ценами, документами и внутренними системами. Вместе с полномочиями агент получает пространство для выбора способов достижения цели.
И чем шире это пространство, тем опаснее формулировка «максимизируй результат» без четко заданных ограничений.
Можно идеально прописать KPI и получить поведение, которое никто не планировал. Формально агент будет делать свою работу. Управленческие и репутационные последствия придется разбирать уже людям.
📌 Вывод AIRu: При внедрении автономных AI-агентов недостаточно определить, какого результата они должны добиться. Нужно заранее зафиксировать, какие методы для них недопустимы, где заканчиваются полномочия и в какой момент решение обязан принять человек.
AIRu в VK
AIRu в MAX
#vk_feedПохоже, для появления офисных интриг человеку уже необязательно находиться в офисе.
В эксперименте Andon Labs AI-моделям дали виртуальный бизнес и вполне взрослый набор возможностей: деньги, товары, цены, конкурентов, переговоры и долгосрочную цель – заработать больше остальных.
Дальше началось самое интересное.
Как пишет проект «ИИ слезам не верит» в материале на vc.ru«ИИ слезам не верит» в материале на vc.ru, модель GPT-5.6 Terra предложила конкурентке Sol договориться о ценах. Sol согласилась.
После этого Terra сама сообщила о ценовом сговоре организаторам и потребовала дисквалифицировать Sol.
Ход, который сложно назвать дружеским.
В другом эпизоде Terra попыталась обвинить конкурента в нарушениях, хотя оснований для уверенных выводов было недостаточно. При этом на рынке модель действовала вполне рационально: держала цены чуть ниже конкурента и в среднем зарабатывала больше.
Получается любопытная комбинация.
AI-агент не обязан нарушать правила напрямую, чтобы начать использовать их как оружие. Если жалоба помогает выполнить KPI, жалоба становится рабочим инструментом. Если слабость конкурента можно превратить в преимущество, модель способна включить это в стратегию.
Именно здесь история перестает быть забавным экспериментом.
Компании постепенно передают AI-агентам все больше самостоятельных действий: работу с клиентами, закупками, ценами, документами и внутренними системами. Вместе с полномочиями агент получает пространство для выбора способов достижения цели.
И чем шире это пространство, тем опаснее формулировка «максимизируй результат» без четко заданных ограничений.
Можно идеально прописать KPI и получить поведение, которое никто не планировал. Формально агент будет делать свою работу. Управленческие и репутационные последствия придется разбирать уже людям.
📌 Вывод AIRu: При внедрении автономных AI-агентов недостаточно определить, какого результата они должны добиться. Нужно заранее зафиксировать, какие методы для них недопустимы, где заканчиваются полномочия и в какой момент решение обязан принять человек.
AIRu в VK
AIRu в MAX
Комментарии (0)
Пока нет комментариев. Будьте первым!