Новости

Иллюстрация: dailygkaffairs.com

ИИ способен развить предубеждение к другим ИИ

Ученые Кардиффского университета и Массачусетского технологического института выяснили, что предубеждение не является исключительно человеческим феноменом и не требует человеческого интеллекта для создания стереотипов. Ранее сообщалось о случаях некорректного поведения алгоритмов машинного обучения, основанных на изучении материалов и данных, созданных людьми, однако в новом исследовании человеческий фактор был сведен к нулю.

Исследование основано на изучении компьютерных симуляций способности виртуальных агентов (собственно, ИИ) формировать группы и взаимодействовать друг с другом. Каждый агент самостоятельно формирует свою стратегию поведения и решает, помогать ли другим агентам в зависимости от его «репутации». После тысяч симуляций каждый агент в той или иной степени копирует других «успешных» индивидов внутри группы.

Исследователи подчеркивают позитивный результат исследования, поскольку им удалось понять, как именно формируется предубеждение — и «какие нужны условия для его культивации или предотвращения». Полученные результаты помогут не только более эффективно развивать технологии искусственного интеллекта, но и понимать подобные механизмы в человеческом обществе.

Источник: naked-science.ru

Поделиться

Мы используем cookie-файлы, чтобы получить статистику, которая помогает нам обеспечивать вас лучшим контентом. Вы можете прочитать подробнее о cookie-файлах или изменить настройки браузера. Отключение cookie-файлов может привести к неполадкам в работе сайта. Продолжая пользоваться сайтом без изменения настроек, вы даете согласие на использование ваших cookie-файлов. Это совершенно безопасно!