Айвенго

Поговорим о странностях ИИ.

Искал я месяца полтора назад стихотворение одного автора на Поэмбуке и задал соответствующий запрос. И тут нейросеть Яндекса выдала весьма странную информацию на тему старой поэтической дуэли. Несколько изменив запрос, вновь получил примерно то же из недр ИИ. Скопировал тогда текст. Вот он:

 

Нейро

На основе источников, возможны неточности

Содержимое ответа

Поэтическая дуэль между Павлом Корытником и Татьяной Тессой по стихотворениям «Пепел» и «Мотылёк» на сайте «Поэмбук» была завершена 2 мая 2024 года. Победу одержала Татьяна Тесса, у Павла Корытника было 14 поражений.

 

 

Поэтическая дуэль «Пепел и Мотылёк» на сайте «Поэмбук» прошла с 1 по 2 мая 2024 года. Победу одержала Татьяна Тесса, а Павел Корытник потерпел 14 поражений.

 

 

Решил разобраться и нашел на сайте упомянутую дуэль. Оказалось, что исход ее был прямо противоположным утверждению ИИ: «потерпевший 14 поражений» автор победил со счетом 23:14.

Но дело в данном случае, разумеется, вовсе не в том, кто победил. Машинные алгоритмы, прочтя слово «поражение» под итоговым счетом поединка, соединили его с 14 голосами, поданными за другого автора. В результате вышло нечто совершенно смехотворное, вздорность чего не дано «понять» машине и до чего бы никогда не додумался человек.

 

Очевидно, что пример этот совершенно случаен, имена авторов и конкретные тексты никакой роли не играют. Но факт налицо: ИИ исказил – нет, перевернул – информацию об этом событии. Да еще и выдал ее в форме откровенной чепухи.

Все это не к тому, чтобы бросить тень на репутацию ИИ, а лишь в том смысле, что не стоит доверять ему безоговорочно. Машина (какой бы «умной» и мощной она ни была) принципиально отличается от человека, и это нужно учитывать.

И если люди, по преимуществу, лгут преднамеренно, машина способна делать это без всякого «умысла», даже не догадываясь при этом, что несет бред.