ИИ может принимать иррациональные решения, аналогичные человеческим

Они протестировали системы по 18 видам когнитивных предубеждений, известных психологии, и установили, что почти в половине случаев ИИ опирался не на объективные данные, а на искаженные установки, пишет сайт МИР24.

Несмотря на логичность рассуждений, модели повторяли ошибки, свойственные людям.

В числе выявленных предубеждений — неприятие риска, переоценка собственных возможностей и эффект обладания. При ответах на гипотетические бизнес-сценарии GPT-4 показал лучшие результаты в задачах с точными расчетами, но в субъективных ситуациях склонялся к нерациональным решениям. Он также проявил сильную приверженность к определенности, предпочитая гарантированную выгоду риску.

Исследователи объяснили такие результаты тем, что ИИ обучается на текстах, написанных людьми, а потому перенимает их мышление и когнитивные ошибки. В неоднозначных задачах он действует скорее как человек, чем как строго логичная система. Поэтому, считают авторы, нейросети хорошо подходят для стандартных заданий, но при сложных решениях требуют участия человека.