Новый стартап по оркестрации искусственного интеллекта от основателей литовского единорога Nord Security стремится помочь предприятиям запустить свои проекты искусственного интеллекта в производство, уделяя первоначальное внимание обеспечению большей прозрачности, безопасности и адаптируемости к большим языковым моделям (LLM).
Nexos.ai, как называется стартап, — дело рук Томаса Окманаса (на фото выше) и Эймантаса Сабаляускаса, которые создали один из самых узнаваемых брендов не только в Литве, но и во всей Европе. Nord Security, наиболее известная своим флагманским VPN-продуктом NordVPN, проработала первые 10 лет, прежде чем в 2022 году уступила огромным инвестициям в 100 миллионов долларов при оценке в 1,6 миллиарда долларов.
Их новая компания сегодня выходит из скрытности, получив финансирование в размере 8 миллионов долларов от множества высокопоставленных спонсоров, включая ведущего инвестора Index Ventures, который сейчас сделал свои первые инвестиции в Литву.
«Мы знали о Томасе и его работе уже много лет, поэтому, как только мы услышали, что он строит новую компанию в сфере искусственного интеллекта, и, наконец, на этом (раннем) этапе был готов взять деньги венчурного капитала. «Мы очень хотели», — рассказала TechCrunch партнер Index Ventures Ханна Сил.
Среди других известных инвесторов — Creandum и Dig Ventures, а также приняли участие такие известные бизнес-ангелы, как генеральные директора Datadog, Klarna, Supercell и Wix.
Использование катализатора
В настоящее время командам, которые хотят внедрить свой ИИ в производство, приходится подключать множество инструментов, что, вероятно, предполагает набор и создание команд с необходимыми навыками. Именно здесь Nexos.ai хочет вмешаться.
«Я видел, что существует большой разрыв между запуском ИИ в качестве пилотного проекта и запуском в производство», — сказал Окманас в интервью TechCrunch. «Когда вы тестируете ИИ в своей лаборатории, он может работать и быть полезным, но когда вы хотите внедрить его в производство, особенно на предприятиях, как обеспечить высокую доступность? Как вы обеспечиваете безопасность? Как вы управляете затратами?»
Nord Security существует уже более десяти лет, но пять лет назад она была объединена в головную компанию под названием Tesonet, инкубатор с портфелем из более чем двух десятков предприятий. Одной из них является компания хостинга веб-сайтов Hostinger, которая недавно добавила возможности искусственного интеллекта в свой инструмент для создания веб-сайтов. Окманас, член правления и акционер Hostinger, сказал, что некоторые проблемы, с которыми они столкнулись, послужили катализатором для того, что в конечном итоге стало Nexos.ai.
«Мы хотели использовать ИИ в нашем конструкторе веб-сайтов, поэтому включили OpenAI, начали его тестировать и запустили в производство», — сказал Окманас. «В августе нам выставили счет на 150 000 долларов. За что? Почему это было так дорого? Видимости не было».
А когда OpenAI несколько раз выходил из строя, Окманас был убежден, что нужно что-то сделать, чтобы упростить развертывание, управление и оптимизацию «все более сложной экосистемы моделей ИИ», которая может понадобиться организациям.
Через простой API (интерфейс прикладного программирования) клиенты могут получить доступ к более чем 200 моделям ИИ, от таких известных компаний, как OpenAI и Anthropic, до более мелких нишевых LLM. Идея состоит в том, что если OpenAI выйдет из строя, компания может временно (и автоматически) переключиться на другого провайдера, не сбавляя темпа. Или, если затраты на доступ к определенному LLM по какой-либо причине резко возрастут, компания может перейти на другой, чтобы снизить свои расходы.
Nexos.ai также вводит «интеллектуальное кэширование» — если конкретный вопрос повторяется несколькими пользователями, система может обратиться к своей собственной базе данных, а не продолжать использовать LLM, что может оказаться дорогостоящим.
Что касается безопасности и соответствия требованиям, Nexos.ai также не позволяет частным лицам отправлять личные данные провайдерам LLM, а если сотрудник покидает компанию, его доступ может быть немедленно прекращен.
Однако от слона в комнате не уйти: одной из причин, по которой предприятия не решаются использовать ИИ, является непростая проблема безопасности данных: медицинские компании, банки или страховые компании не могут просто доверять поставщикам LLM всю свою конфиденциальную информацию. . Стоит отметить, что сам Hostinger пострадал от утечки данных в 2019 году, а NordVPN также подвергался взломам в прошлом — с такими атаками сегодня сталкиваются все компании.
Это вызывает вопросы о том, как Nexos.ai обрабатывает такие данные, учитывая, что он размещает все в своей собственной инфраструктуре. Окманас сказал, что компания, скорее всего, предложит самостоятельный хостинг в будущем и что она уже поддерживает интеграцию с собственными внутренними LLM компаний.
Он также имеет защитные ограждения для обнаружения того, когда ему отправляются данные, такие как личная информация (PII), — в таких случаях он может перенаправить данные обратно в собственные LLM или базу данных исходной компании. Но если запрос является общим, например, когда клиент запрашивает у ИИ-агента подробную информацию о своем местоположении и часах работы, тогда запрос будет обработан на стороне Nexos.ai.
От идеи до начала
Путь от идеи до формальной регистрации занял у Nexos.ai около шести недель, и хотя скорость получения финансирования во многом зависела от репутации основателей, большая часть этого была просто временем.
«Я чувствую, что мы наконец-то вышли за рамки шумихи вокруг ИИ, и теперь появляются реальные приложения», — добавил Сил. «Все крупные предприятия понимают, что это действительно важно, и им необходимо масштабно внедрять ИИ. И сейчас настало время, чтобы инфраструктура догнала эти модели».
Однако скорость реализации в значительной степени была обусловлена более широкой организационной структурой Tesonet, в портфеле которой работает около 4000 сотрудников. Это позволило Окманасу быстро собрать команду из примерно 30 человек, которых он знал и которым доверял, для постоянной работы над Nexos.ai.
«У нас есть команды, которые действительно могут объединить усилия — они столько лет работают вместе, что нет необходимости им указывать, что к чему», — сказал Окманас. «Мы также будем нанимать сотрудников со стороны, но это займет гораздо больше времени».
Платформу Nexos.ai планируется запустить к концу марта, хотя Окманас сказал, что она уже работает с группой «бета-клиентов и партнеров по дизайну».
