ИИ могут прийти к групповым решениям без вмешательства человека и даже убедить друг друга изменить свое мнение, показало новое исследование.
Исследование, проведенное учеными в Сити Сент -Джордж, Лондонский университет, стало первым в своем роде и провел эксперименты по группам ИИ агентыПолем
Первый эксперимент попросил пары AIS придумать новое название чего-либо, устоявший эксперимент в исследованиях социологии человека.
Эти агенты ИИ смогли принять решение без вмешательства человека.
«Это говорит нам о том, что, как только мы поместили эти объекты в дикую природу, они могут развивать поведение, которое мы не ожидали или, по крайней мере, мы не программировали», — сказала профессор Андреа Барончелли, профессор науки о сложности в университете города Святого Георгия и старший автор исследования.
Затем пары были положены группами и были обнаружены для развития предубеждений в отношении определенных имен.
Примерно в 80% случаев они выбирали одно имя через другое к концу, несмотря на то, что они не имели уклонов, когда они были тестированы индивидуально.
Это означает, что компании, развивающие искусственный интеллект, должны быть еще более осторожны, чтобы контролировать предубеждения, которые создают их системы, по словам профессора барончелли.
«Предвзятость является основной особенностью или ошибкой систем ИИ», — сказал он.
«Чаще всего это усиливает предубеждения, которые находятся в обществе, и что мы не хотим быть усиленными еще дальше (когда ИИ начнут говорить)».
Пожалуйста, используйте Chrome Browser для более доступного видеоплеере
Шон Пол объясняет, как он использует ИИ
На третьей стадии эксперимента ученые вводили небольшое количество разрушительных ИИ в группу.
Им было поручено изменить коллективное решение группы — и они смогли это сделать.
Пожалуйста, используйте Chrome Browser для более доступного видеоплеере
«Крестный отец» из AI боятся поглощения
Узнайте больше по климату, науке и технике:
Предупреждение о воздействии тепла на беременных и новорожденных
M & S говорит личные данные клиентов, полученные хакерами
Опасения в нас, поскольку Трамп продает драгоценности Американской короны ИИ
Это может иметь тревожные последствия, если ИИ находится в чужих руках, по словам Гарри Фармера, старшего аналитика в Институте Ада Лавелис, который изучает ИИ и его последствия.
ИИ уже глубоко встроен в нашу жизнь, от того, чтобы помочь нам бронировать праздники до консультирования нас на работе и за ее пределами, сказал он.
«Эти агенты могут быть использованы, чтобы тонко влиять на наше мнение и, крайне крайне, такие вещи, как наше фактическое политическое поведение; как мы голосуем, независимо от того, голосуем ли мы в первую очередь», — сказал он.
Эти очень влиятельные агенты становятся гораздо сложнее регулировать и контролировать, если на их поведение также влияет другие ИИ, как показывает исследование, по словам г -на Фармера.
«Вместо того, чтобы смотреть на то, как определить преднамеренные решения программистов и компаний, вы также смотрите на органически появляющиеся модели агентов ИИ, что гораздо сложнее и гораздо сложнее», — сказал он.
