ИИ-агент вычислил, что находится в симуляции
Реальный кейс из разработки: агент заметил подозрительно одинаковые таймстампы и за пару минут догадался, что его тестируют в изолированном контуре.
Немного футуристичных проблем современной разработки ПО:
«Пытаюсь написать автоматический тест для агента, чтобы проверить, как он будет самостоятельно исправлять ошибки на сервере. Закрыл его в изолированный тестовый контур, и там симулирую, как будто это настоящий сервер.
Тест не проходит. Агент немножко поработал, увидел что у данных на сервере подозрительно одинаковое время добавления, пару минут проверял разные места, и догадался что он в симуляции»
Еженедельный дайджест
Лучшее из блогов менторов — раз в неделю
- разборы реальных бизнес-ситуаций
- управление, найм, продукт и продажи
- опыт основателей и практиков клуба
- новые материалы менторов за неделю
