Аналитический обзор от АНО «Новое время».
«Типы ИИ-платформ»
Оглавление
1. Классическая платформа2
2. Платформа с ИИ-компонентами2
3. Платформа, изначально построенная с учетом ИИ3
Итоговые выводы4
Типы платформ: от классической модели к ИИ-ориентированной
1. Классическая платформа
Классическая платформа предназначена для стандартизированного размещения, разработки и эксплуатации цифровых сервисов. Ее назначение состоит в обеспечении единых условий для работы приложений, управления вычислительными ресурсами, хранения данных, сетевого взаимодействия, мониторинга и информационной безопасности.
Основной объект управления.Основным объектом управления является прикладной сервис, реализующий заранее заданную бизнес-логику.
Ключевые особенности.Классическая платформа включает типовые инфраструктурные и платформенные сервисы: среды исполнения, базы данных, очереди, хранилища, средства автоматической сборки и развертывания, журналирование, мониторинг, управление доступом, секретами и конфигурациями. Она ориентирована на воспроизводимость инженерных практик и снижение эксплуатационной сложности.
Ограничения.Плохо приспособлена к массовому использованию ИИ, поскольку изначально не проектировалась для управления моделями, контекстом, дорогостоящими вычислениями, вероятностным поведением систем и новыми классами рисков, связанными с доступом к данным и частичной автономией.
Вывод Классическая платформа остается необходимой базой цифрового государства и должна рассматриваться как исходный инфраструктурный слой. Вместе с тем ее возможностей недостаточно для масштабного и управляемого внедрения ИИ в государственные процессы.
2. Платформа с ИИ-компонентами
Платформа с ИИ-компонентами представляет собой развитие классической платформы за счет включения в нее отдельных сервисов и механизмов для работы с искусственным интеллектом. В этой модели ИИ выступает как дополнительная функциональность, встраиваемая в существующую цифровую среду.
Основной объект управления.Наряду с прикладными сервисами объектом управления становятся отдельные ИИ-функции: вызовы моделей, использование контекста, интеллектуальный поиск, формирование ответов, вспомогательная автоматизация и ИИ-поддержка разработки.
Ключевые особенности.Такая платформа обычно включает единые точки доступа к моделям, механизмы поиска и подбора релевантной информации, базовые ограничения на использование данных, средства журналирования вызовов и в отдельных случаях инструменты ИИ-поддержки разработки и сопровождения. При этом базовая платформенная логика остается прежней, а ИИ надстраивается поверх нее.
Ограничения.Расширение использования ИИ часто происходит быстрее, чем организация успевает выстроить необходимые платформенные механизмы контроля, учета стоимости, наблюдаемости и аудита. В результате возникают разрывы между использованием ИИ и механизмами контроля, допуска, учета стоимости, наблюдаемости и аудита. Такая модель пригодна для ускоренного внедрения отдельных сценариев, но слабо подходит для высокорисковых и масштабных режимов применения.
Вывод
Может рассматриваться как переходный этап. Она подходит для запуска ограниченного набора типовых сценариев, прежде всего вспомогательных и низкорисковых, однако не должна рассматриваться как конечная архитектура для системного внедрения ИИ.
3. Платформа, изначально построенная с учетом ИИ
Платформа, изначально построенная с учетом ИИ, проектируется исходя из того, что модели, данные, контекст, автоматизация, оценка качества и ограничения автономии являются встроенной частью цифровой среды. В этой модели ИИ не подключается к платформе извне, а рассматривается как один из базовых классов цифровой нагрузки.
Основной объект управления.Объектом управления становятся не только приложения, но и полный контур интеллектуального поведения системы: модели, правила доступа к данным, механизмы подбора контекста, режимы применения, полномочия автоматизированных механизмов, аудит действий, участие человека в значимых сценариях и жизненный цикл моделей.
Ключевые особенности.Такая платформа предусматривает реестры моделей, механизмы проверки и допуска, управляемые средства работы со знаниями и данными, разграничение режимов применения ИИ, квотирование и учет вычислений, наблюдаемость поведения моделей, ограничения полномочий автоматизированных механизмов, а также обязательные процедуры вмешательства и отката. Контроль осуществляется не только до запуска, но и во время работы системы.
Ограничения.Основными ограничениями являются высокая сложность проектирования, значительные требования к зрелости управления, необходимость строгого разграничения режимов использования ИИ и высокая стоимость ошибки. При отсутствии дисциплины в области данных, вычислений, допуска моделей и распределения ответственности такая платформа быстро становится чрезмерно сложной и затратной.
Вывод Именно эта модель является целевой в средне- и долгосрочной перспективе, поскольку только она позволяет масштабировать использование ИИ без утраты управляемости, правомерности обработки данных и контроля над рисками. При этом ее создание должно осуществляться поэтапно, начиная с базовых контуров доверия, суверенитета, данных и жизненного цикла моделей.
Итоговые выводы
Классическая платформа должна сохраняться как обязательный базовый слой, но сама по себе она не обеспечивает условий для масштабного и безопасного применения ИИ.
Платформа с ИИ-компонентами является допустимой переходной моделью для ограниченного круга задач, прежде всего вспомогательных и низкорисковых, однако не решает задачу системного управления ИИ как новым типом цифровой нагрузки.
3) Целесообразно ориентироваться на формирование платформы, изначально учитывающей требования к ИИ, где объектами управления выступают не только сервисы, но и данные, модели, вычисления, режимы применения, аудит и пределы автоматизации.
4) ИИ-платформа должна строиться на принципах поэтапности, разграничения уровней риска, обязательного человеческого контроля в значимых сценариях и централизованного управления жизненным циклом моделей.
5) Практический переход к такой модели требует рассматривать ИИ не как совокупность пилотов или разрозненных сервисов, а как управляемый класс цифровых нагрузок, для которого заранее определены требования к данным, вычислениям, безопасности, допуску, наблюдаемости и ответственности за использование.
Целесообразно исходить не из логики подключения отдельных ИИ-инструментов к существующей цифровой среде, а из логики поэтапного формирования единой ИИ-платформы, в которой искусственный интеллект рассматривается как управляемый класс цифровых нагрузок с установленными требованиями к размещению, данным, вычислениям, допуску моделей, контролю, аудиту и пределам автоматизации.