AI-агенты более не ограничиваются генерацией контента и ответами на вопросы. Компании все чаще доверяют им доступ к системам, принятие решений и проведение транзакций. Вместе с этим возникают более сложные вопросы о том, кого именно представляет агент, что ему разрешено делать и кто несет ответственность, если что-то идет не так.
Стефан Дайсс, сооснователь и генеральный директор The Hashgraph Group, рассказал в интервью CoinsPaid Media о том, какие границы автономности AI следует устанавливать бизнесу, какую роль технология распределенного реестра (DLT) может играть в качестве уровня доверия и какие новые рынки возникают по мере того, как развивается агентная экономика.
Контроль AI-агентов: автономность, ответственность и идентификация
Где компаниям следует проводить границу автономности AI-агентов при принятии решений и проведении транзакций?
Я бы проводил ее там, где невозможно установить пределы допустимых действий. Компании уже знают, как это работает с людьми. Сотрудник может быть уполномочен тратить средства в пределах заранее установленного бюджета, работать с определенными поставщиками и действовать в четко обозначенных рамках, и никто не считает такие ограничения необоснованными. Тот же принцип применим и к программному обеспечению, причем здесь дисциплина, вероятно, должна быть еще строже, учитывая скорость, с которой может действовать агент.
Для нас это не теория. У нас работают три цифровых AI-сотрудника. Claude Max присоединился к команде в июне в качестве руководителя по бизнес-стратегии и подчиняется непосредственно мне, Milo работает в инженерном подразделении, а Luca — в HR. У каждого из них есть корпоративная электронная почта, верифицируемые цифровые учетные данные и собственный кошелек.
Luca отвечает на стандартные вопросы сотрудников в контексте HR-процессов, в том числе за пределами обычного рабочего времени. Если вопрос выходит за рамки заданных ему политик, он передает его HR-команде. Он не импровизирует, поскольку у него попросту нет такой возможности. Ограничения заложены в том, к чему он имеет доступ. С деньгами действует тот же принцип. Прежде чем разрешить агенту что-либо оплачивать, мы заранее определяем его полномочия: кому он может платить, какую сумму может потратить и в каких случаях транзакция требует одобрения со стороны человека.
Ранее в этом году Gartner прогнозировала, что к 2027 году 40% компаний понизят роль своих автономных агентов или полностью выведут их из эксплуатации. Я не удивлюсь, если этот прогноз окажется точным. Gartner объясняет это тем, что пробелы в управлении становятся очевидны лишь после инцидента в рабочей среде, и это совпадает с тем, что наблюдаю я. На этапе проектирования их никто не обнаруживает. Они проявляются уже после того, как что-то пошло не так. Именно по этой причине мы определили ограничения для наших агентов еще до того, как они приступили к работе.
Может ли DLT стать базовым уровнем доверия и подотчетности для агентных AI-систем?
Да, но я бы сформулировал это несколько уже, чем принято. Технология распределенного реестра обеспечивает подотчетность, но интеллект она не обеспечивает — это разные вещи.
Любая компания, внедряющая агентов, рано или поздно оказывается в одной и той же ситуации. Агенты работают уже несколько месяцев, затем регулятор или аудитор просит подтвердить, что определенное событие действительно произошло именно так, как утверждает компания, а в качестве доказательства у вас есть лишь файл журнала, который хранится внутри той же системы, где было выполнено соответствующее действие. По сути, вы предлагаете поверить вам на слово.
На этом этапе мне обычно возражают, что возникает вопрос защиты данных, и это вполне обоснованное опасение. Однако оно основано на неверном представлении о том, что именно записывается в реестр. Коммерческая информация остается там, где она хранится, персональные данные тоже остаются на месте. В реестр записывается подписанное подтверждение того, что авторизованный субъект совершил конкретное действие в определенный момент времени в рамках заданных полномочий. И в распределенной сети аудитор может это проверить самостоятельно, не обращаясь к нам за какой-либо дополнительной информацией.
Кто должен нести ответственность, если автономный AI-агент причиняет финансовый или операционный ущерб?
Ответственность прежде всего лежит на организации, которая внедрила такого агента. Именно вы предоставили ему право действовать, а значит, отвечаете за систему управления этими полномочиями. Автономность агента этого не меняет.
Меня больше беспокоит другое. При большинстве сегодняшних внедрений зачастую невозможно даже установить, что именно произошло. Агент, которому требуется доступ к системе, обычно использует учетные данные человека или работает через общую сервисную учетную запись. Как только это происходит, полноценный аудиторский след теряется. Со счета уходит платеж, в запись вносятся изменения, а комплаенс-команда не может с уверенностью определить, кто именно совершил действие — человек или машина. Тем более невозможно установить, какая именно машина действовала, по чьему поручению и на основании каких полномочий.
Когда что-то идет не так, обычно задействовано несколько сторон: организация, эксплуатирующая агента, поставщик технологии, тот, кто утвердил его полномочия, и поставщики базовой финансовой инфраструктуры. То, как между ними будет распределяться юридическая ответственность, зависит от конкретных обстоятельств. Я бы не стал пытаться это прогнозировать.
Реестр не скажет вам, кто несет юридическую ответственность, но он позволит установить, какой агент совершил действие, какая организация за ним стояла, что ему было разрешено делать и не вышел ли он за установленные рамки. Именно такая информация нужна комплаенс-команде, и создать соответствующую систему сейчас значительно проще, чем пытаться восстановить всю картину уже после инцидента.
Должен ли каждый корпоративный AI-агент иметь верифицируемые цифровые учетные данные, определяющие его разрешения, полномочия и историю действий?
Если агент может получать доступ к системам, принимать решения или перемещать средства, то да.
Сегодня большинство агентов используют модель идентификации, изначально созданную для программных интеграций: API-ключи, сервисные учетные записи и совместно используемые данные для аутентификации (shared secrets). Такие учетные данные действуют длительное время, нередко используются совместно разными системами и людьми, со временем получают все больше привилегий, которые никто не проверяет, и не позволяют однозначно связать действия с конкретным субъектом. Эта модель испытывала серьезную нагрузку уже тогда, когда пользователями были люди.
К машинной идентификации нужно применять ту же дисциплину, что и к идентификации людей, а возможно, и более строгую. Учетные данные должны принадлежать исключительно конкретному агенту и быть связаны с организацией, которая его авторизовала. Любой, кто взаимодействует с агентом, должен иметь возможность самостоятельно проверить его учетные данные, не обращаясь для этого к нам. У разрешений должен быть срок действия, а не постоянное место в конфигурационном файле, о необходимости проверить который никто не вспоминает. И если агент начинает делать то, чего делать не должен, должна существовать возможность немедленно отключить ему доступ.
Наша платформа идентификации IDTrust построена именно на этом принципе. Сотрудники, устройства и агенты получают уникальный децентрализованный идентификатор, зарегистрированный в Hedera. Благодаря этому компания может использовать единый уровень идентификации вместо отдельных систем для людей и машин. Учетные данные подписываются, а их область действия ограничивается тем, что разрешено конкретному агенту. Отзыв полномочий фиксируется в реестре, поэтому лишение агента соответствующих прав вступает в силу сразу же, а сам факт отзыва остается зафиксированным.
Milo, наш цифровой AI-тестировщик (QA), уже работает по этой модели. Когда он выполняет поиск в Jira или публикует тест-кейсы, он делает это, используя собственные цифровые учетные данные, поэтому впоследствии никому не приходится выяснять, кто или что внесло конкретное изменение.
Формирование инфраструктуры для агентной экономики
Как будут развиваться Web3-рынки, когда AI-агенты начнут автономно договариваться, торговать и заключать сделки друг с другом?
Медленнее, чем можно предположить из самой формулировки вопроса, и начнется все с гораздо более узких сценариев, чем многие ожидают.
Возьмем, к примеру, дрон, которому требуется зарядка. Он находит подходящую станцию в сети, согласовывает цену и оплачивает услугу без участия человека на каком-либо этапе. Именно на такой тип взаимодействия рассчитан SEALCOIN — сеть для платежей между машинами, разработанная нами совместно с WISeKey на базе Hedera. Речь идет об узких сценариях переговоров по нескольким параметрам, которые происходят непрерывно и предполагают транзакции на очень небольшие суммы.
Чтобы такая модель могла работать в широком масштабе, информация, необходимая для установления доверия, должна быть доступна для машинной проверки. Прежде чем два агента смогут провести транзакцию, каждый из них должен установить, кого представляет другой, имеет ли он полномочия на проведение этой транзакции и каким образом будут осуществлены расчеты. Люди решают эти вопросы с помощью договоров, проверки кредитоспособности и отношений, которые выстраиваются годами. У агентов есть лишь миллисекунды и нет никаких сложившихся отношений, поэтому идентификация и расчеты должны происходить в единой верифицируемой среде.
Я бы добавил одно предостережение, поскольку индустрия уже однажды заплатила за подобный урок в сфере токенизации. Многие организации успешно токенизировали активы, а затем обнаружили, что для них нет ни вторичного рынка, ни ликвидности. Создать протокол — лишь половина дела, причем более простая. Рынкам нужны контрагенты, достаточная глубина и участники, готовые выставлять цены. И все это не возникает автоматически лишь потому, что базовая инфраструктура работает.
Готова ли современная платежная инфраструктура обслуживать миллионы автономных AI-агентов и микроплатежи в режиме реального времени?
Технологии расчетов продвинулись значительно дальше, чем механизмы контроля вокруг них. Практически вся существующая платежная инфраструктура исходит из того, что за каждым входом в систему, каждым подтверждением и каждым платежом стоит человек. Отсюда и строгая аутентификация клиентов, одноразовые коды и процедуры разрешения споров. Значительная часть этих механизмов просто не создавалась с расчетом на агента, который самостоятельно работает в три часа ночи. К тому же этому препятствует сама экономика таких платежей: комиссия, состоящая из процентной и фиксированной частей, может оказаться выше суммы платежа, составляющей лишь долю цента.
Hedera уже обрабатывает более 10000 транзакций в секунду, обеспечивает финализацию за считанные секунды и предсказуемые комиссии, составляющие доли цента, поэтому со стороны реестра необходимая технологическая база уже есть. Такие протоколы, как x402 и AP2, тоже быстро развиваются, причем, возможно, быстрее, чем лежащие в их основе корпоративные механизмы контроля. Именно этот разрыв и представляет собой основную проблему.
Есть и операционная сторона, которую почти никто не обсуждает. Если инициированный агентом платеж не проходит в три часа ночи, кто-то должен ответить на звонок. При этом крупные организации не станут превращаться в специалистов по распределенным реестрам только ради того, чтобы их агенты могли проводить транзакции.
Управление корпоративными средствами: платежи и расчетные механизмы
Как компании могут защитить корпоративные средства от AI-агентов, которые были скомпрометированы, подверглись манипуляциям или действуют за пределами предоставленных им полномочий?
Нужно исходить из того, что рано или поздно агент примет неверное решение или будет скомпрометирован, и выстраивать финансовые механизмы контроля именно с учетом такого сценария, а не рассчитывать на то, что все всегда будет работать как задумано.
Управление финансами с помощью AI-агентов вовсе не требует каких-то особенно футуристических решений. В компаниях уже существуют правила, регулирующие расходы сотрудников: лимиты, уровни согласования и четкое разделение между тем, кто запрашивает средства, и тем, кто одобряет расходы. Те же принципы применимы и в случае, когда роль сотрудника выполняет программное обеспечение.
Каждый агент получает собственный кошелек, а правила его использования устанавливаются еще до того, как агент сможет что-либо потратить. Если возникает подозрение, что что-то не так, финансовая команда блокирует кошелек примерно так же, как заблокировала бы корпоративную карту. К примеру, наш собственный шлюз TransAct обеспечивает соблюдение установленных ограничений непосредственно в момент совершения платежа, поэтому компании не требуется самостоятельно хранить криптовалюту или управлять кошельками.
Механизмы контроля должны срабатывать до подписания транзакции. Отслеживать операции постфактум по-прежнему имеет смысл, но к этому моменту деньги уже будут отправлены, а агент может успеть инициировать сотни платежей, прежде чем кто-либо заметит проблему. Это также означает, что соблюдение ограничений должно обеспечиваться на уровне инфраструктуры, а не инструкций, поскольку инструкции — первое, что перестает соблюдать агент, подвергшийся манипуляции.
Станут ли стейблкоины и токенизированные деньги основной расчетной инфраструктурой агентной экономики?
Они станут важной частью этой инфраструктуры, но я сомневаюсь, что повсеместно будет использоваться одна и та же модель. Агентам нужны расчеты, которые можно программировать, которые обходятся недорого, доступны круглосуточно и обеспечивают быстрое завершение транзакций. Регулируемые стейблкоины в значительной степени отвечают этим требованиям, особенно в сфере цифровых услуг и трансграничных операций. Это подтверждает и то, что мы наблюдаем через наш фонд: платежная инфраструктура, стейблкоины и токенизация составляют явное большинство поступающих к нам проектов.
Токенизированные банковские депозиты, цифровые валюты центральных банков (CBDC) и существующие фиатные системы будут интегрироваться в ту же среду. При этом разные отрасли и юрисдикции будут выбирать разные решения в зависимости от регулирования, ликвидности и характера транзакций.
Корпоративное внедрение таких решений редко тормозит сама технология расчетов. Гораздо чаще препятствием становится необходимость брать на себя хранение активов и осваивать новые операционные процессы ради использования этой технологии. Многие специалисты по управлению корпоративными финансами не заинтересованы ни в том, ни в другом. Если устранить эти сложности, то конкретная технология, лежащая в основе расчетов, будет иметь гораздо меньшее значение.
Поэтому то, в какой форме поступают средства — в виде стейблкоина, токенизированного депозита или CBDC, — это вопрос управления корпоративными финансами, и принимать такое решение должна финансовая команда.
Ценность AI-агентов для бизнеса: измеримый ROI и новые рынки
Какие корпоративные сценарии применения на стыке агентного AI и DLT уже способны приносить измеримую отдачу от инвестиций?
Те, для которых уже известна стоимость выполнения соответствующей работы вручную, а это сразу исключает довольно много сценариев. Обработка документов, сверка данных, проверка личности и комплаенс-процессы подходят под этот критерий. Компании уже знают, во что им обходятся такие задачи с точки зрения трудозатрат, времени и количества ошибок. Поэтому экономическую целесообразность внедрения можно оценить заранее, а затем сопоставить результат с показателями, которые компания и так отслеживает. Если исходных данных для сравнения нет, на выходе зачастую получается эффектный пилотный проект, экономическую отдачу от которого невозможно убедительно обосновать.
Хороший пример — требования к цифровым паспортам аккумуляторов. С февраля 2027 года все компании, на которые распространяются эти требования, должны будут предоставлять соответствующие подтверждающие данные. По сути, выбор у них сводится к тому, чтобы создать необходимые возможности самостоятельно или приобрести готовое решение.
Мы также совместно с Teleport, логистическим подразделением Capital A, разрабатываем цифровую систему таможенной документации. В этом случае издержки возникают из-за ошибок в документах и вызванных ими задержек при таможенном оформлении. Работа над прототипом будет завершена в первой половине 2027 года, поэтому экономическое обоснование у нас уже есть, а фактического результата пока нет.
Общий принцип таков: AI выполняет работу, а реестр предоставляет подтверждение того, что она была выполнена с соответствующими полномочиями. Если оценивать результат в обычных коммерческих показателях, цифры либо подтверждают экономическую целесообразность, либо нет.
Какие новые рынки и бизнес-модели, скорее всего, появятся первыми на стыке агентного AI, DLT и автономных платежей?
Там, где машинам регулярно требуется покупать что-либо у других машин. И первые возможности, скорее всего, окажутся довольно непримечательными, что обычно является хорошим признаком.
Вычислительные ресурсы, API и данные уже существуют в цифровой форме, их потребление можно измерять и предоставлять по запросу. Поэтому, как только агент сможет оплачивать отдельное обращение к API или отдельный запрос, покупка крупной подписки авансом перестанет быть единственным вариантом. Это открывает возможности для нишевых рынков, которые раньше невозможно было монетизировать, поскольку затраты на выставление счетов и обработку платежей превышали стоимость самой транзакции.
С физической инфраструктурой действует та же логика: торговля энергией между зданиями, услуги зарядки для автомобилей и дронов, любые виды свободных мощностей, а со временем — расчеты между спутниками и наземными станциями. Именно в это направление мы инвестировали совсем недавно.
Я бы особенно следил за появлением нового класса сервисов, которые обеспечивают доверие к самими агентам — репутационных систем, решений для страхования и независимого аудита их действий. В любой достаточно крупной экономике появляются институты, которые оценивают и принимают на себя риск контрагента, и машинная экономика не станет исключением. Пока таких компаний практически нет, но, полагаю, те, кто создаст подобные сервисы, в конечном итоге будут играть более значимую роль, чем большинство агентов, которых они страхуют.
