Робот прошёл тест Роршаха и теперь думает только об убийствах

Робот прошёл тест Роршаха и теперь думает только об убийствах

Норман – робот с искусственным интеллектом, который обучен анализировать изображения и описывать, что изображено на них. Инженеры пропустили через него изображения из теста Роршаха и получили неутешительные результаты.

Норман видит на рисунке мужчину, которого застрелили на глазах у его мёртвой жены, в то время как среднестатистическим ответом является человек, который держит в руках зонт. Человек, которого застрелили из пулемёта средь бела дня вместо черно-белой фотографии бейсбольной перчатки. Человека засасывает блендер вместо фотографии маленькой птички.

Цель эксперимента заключалась в том, чтобы показать, как легко переубедить любой искусственный интеллект, если известны алгоритмы его работы. Очень важно прорабатывать все исходы, даже самые ужасные, чтобы не допустить плачевных последствий.

Норман — всего лишь мысленный эксперимент, но вопросы, которые он поднимает о алгоритмах машинного обучения, делая суждения и решения на основе предвзятых данных, являются срочными и необходимыми. В будущем множество функций будет переложено на искусственный интеллект, и человечеству важно знать, может ли что-то пойти не так и как это исправить.

Источник

Следующая новость
Предыдущая новость

Опыт дурака (Норбеков Мирзакарим) (аудиокнига) C1ckClock 1.3 100 самых необходимых уроков Photoshop Путь героя. Книга действия для боевой машины PCWasher v3.1

Последние новости