Nvidia выпускает три новых микросервиса NIM, или небольших независимых сервисов, которые являются частью более крупных приложений, чтобы помочь предприятиям обеспечить дополнительные меры контроля и безопасности для своих агентов ИИ.
Одна из этих новых служб NIM нацелена на безопасность контента и предотвращает создание вредоносных или предвзятых результатов агентом ИИ. Другой работает для того, чтобы разговоры были сосредоточены только на утвержденных темах, а третий новый сервис помогает предотвратить попытки агента ИИ сделать джейлбрейк или снять программные ограничения.
Эти три новых микросервиса NIM являются частью Nvidia NeMo Guardrails, существующей коллекции программных инструментов и микросервисов Nvidia с открытым исходным кодом, призванных помочь компаниям улучшить свои приложения искусственного интеллекта.
«Применяя несколько облегченных специализированных моделей в качестве ограждений, разработчики могут закрыть пробелы, которые могут возникнуть, когда существуют только более общие глобальные политики и средства защиты, поскольку универсальный подход не обеспечивает должным образом безопасность и контроль над сложными агентными рабочими процессами ИИ. — говорится в пресс-релизе.
Похоже, что компании, занимающиеся искусственным интеллектом, начинают понимать, что заставить предприятия внедрить их технологию агентов искусственного интеллекта будет не так просто, как они первоначально думали. Хотя такие люди, как генеральный директор Salesforce Марк Бениофф, недавно предсказывали, что в ближайшие 12 месяцев только от Salesforce будет убегать более миллиарда агентов, реальность, вероятно, будет выглядеть немного иначе.
Недавнее исследование Deloitte предсказало, что около 25% предприятий либо уже используют агенты ИИ, либо планируют использовать их в 2025 году. В отчете также прогнозируется, что к 2027 году около половины предприятий будут использовать агентов. Это показывает, что, хотя предприятия явно заинтересованы в агентах ИИ, они не внедряют технологии ИИ с той же скоростью, с которой происходят инновации в сфере ИИ.
Nvidia, вероятно, надеется, что подобные инициативы сделают внедрение агентов ИИ более безопасным и менее экспериментальным. Время покажет, так ли это на самом деле.
