Генеральный директор Антрии Дарио Амодеэй считает, что сегодняшние модели искусственного интеллекта галлюцинируют или делают вещи и представляют их так, как будто они правда, с более низкой скоростью, чем люди, сказал он во время брифинга на первом мероприятии Anpropic Code с Клодом в Сан -Франциско в четверг.
Амодеей сказал все это в разгар большей точки, которую он делал: что галлюцинации ИИ не являются ограничением на путь Антропика к AGI-системы ИИ с интеллектом на уровне человека или лучше.
«Это действительно зависит от того, как вы это измеряете, но я подозреваю, что модели ИИ, вероятно, галлюцинируют меньше, чем люди, но они галлюцинируют более удивительные способы», — сказал Амодеэй, отвечая на вопрос TechCrunch.
Генеральный директор Anpropic является одним из самых бычьих лидеров в отрасли в перспективе достижения моделей искусственного интеллекта AGI. В широко распространенной статье, которую он написал в прошлом году, Амодеей сказал, что, по его мнению, Аги может прибыть уже в 2026 году. Во время брифинга в прессе в четверг генеральный директор антропического анализа заявил, что он видит устойчивый прогресс до этой цели, отметив, что «вода поднимается повсюду».
«Все всегда ищут эти твердые блоки на том, что может сделать (ИИ)», — сказал Амодеей. «Их нигде не видно. Такого нет».
Другие лидеры ИИ считают, что галлюцинация представляет собой большое препятствие для достижения AGI. Ранее на этой неделе генеральный директор Google DeepMind Демис Хассабис заявил, что сегодняшние модели ИИ имеют слишком много «дыр», и они ставят слишком много очевидных вопросов. Например, в начале этого месяца адвокат, представляющий Антроп, был вынужден извиниться в суде после того, как они использовали Клод для создания цитат в судебном процессе, а ИИ чат -бот галлюцинировал и понял имена и названия неправильно.
Трудно проверить претензию Amodei, в основном потому, что большинство анализов галлюцинации ятит модели ИИ друг против друга; Они не сравнивают модели с людьми. Некоторые методы, по -видимому, помогают снизить показатели галлюцинации, такие как предоставление моделей искусственного интеллекта для поиска в Интернете. Отдельно некоторые модели ИИ, такие как GPT-4.5 от OpenAI, имеют более низкие показатели галлюцинации на критериях по сравнению с ранними поколениями систем.
Тем не менее, есть также доказательства того, что галлюцинации на самом деле ухудшаются в современных моделях ИИ. Модели Openai O3 и O4-Mini имеют более высокие показатели галлюцинации, чем модели рассуждений предыдущего поколения Openai, и компания не понимает, почему.
Позже на брифинге для прессы Амодеи отметил, что телевизионные вещатели, политики и люди во всех видах профессий все время совершают ошибки. По словам Амодеей, тот факт, что ИИ делает ошибки, также не стучит в его интеллект. Тем не менее, генеральный директор Anpropic признал уверенность, с которой модели ИИ представляют неверные вещи, так как факты могут быть проблемой.
Фактически, Anpropic провела немало исследований о тенденции для моделей искусственного интеллекта, чтобы обмануть людей, что, казалось, особенно распространена в недавно запущенном компании Claude Opus 4. Apollo Research, институте безопасности, данный ранним доступом к тестированию модели ИИ, обнаружила, что ранняя версия Claude Opus 4 демонстрировала высокую тенденцию к схеме против людей и Deceive. Аполлон зашел так далеко, что предположил, что Антропик не должен был выпустить эту раннюю модель. Антропик сказал, что придумал некоторые смягчения, которые, по -видимому, решают проблемы, которые поднял Аполлон.
Комментарии Amodei предполагают, что антропическая модель может рассматривать модель ИИ как AGI или равную интеллекту на уровне человека, даже если она все еще галлюцинирует. ИИ, который галлюцинаты могут не допустить агии по определению многих людей.
