Писатель внушил ИИ-поиску Google, что его кот говорит по-кантонски

[душман]

Известный американский писатель, автор комиксов и блогер Чак Вендиг сумел убедить сервис поиска с искусственным интеллектом Google, что у него живёт кот с пышной кличкой Сэр Мьюлингтон фон Писсбрет, который носит цилиндр и немного говорит на кантонском диалекте китайского языка. Современные большие языковые модели искусственного интеллекта в действительности представляют собой сложные статистические алгоритмы, задача которых — предсказывать последующие слова. Это означает, что в качестве запроса такой системе порой можно отправить откровенную чушь, и в ответ она произведёт поиск по большому числу источников, найдёт случайную информацию, соберёт её в некое подобие обзора, который на деле будет таким же нелепым, как и ответ. 

Это подтвердил пример писателя Чака Вендига. В декабре Вендиг написал в своём блоге, что, по данным службы ИИ-поиска Google, у него живёт кот по кличке Бумба — эту информацию сервис якобы почерпнул с сайта Wengie Wiki. В действительности никакого кота у писателя не было и нет. Несколько поисковых запросов спустя ИИ-поиск Google сообщил ему, что его кот Бумба умер, и писатель завёл нового по кличке Франкен; в качестве доказательства система сослалась на блог Вендига, в котором на самом деле ни разу не упоминались ни Бумба, ни Франкен. В серии последующих поисковых запросов сервис начал постоянно придумывать писателю новых питомцев под новыми именами; он также добавил не соответствующие действительности сведения о его состоянии здоровья и религиозных предпочтениях. 

Вендиг, не стесняясь в выражениях раскритиковал не только сервис ИИ-поиска Google, но и вообще технологии ИИ в их теперешнем виде. Он отметил, что сервис неспособен отличать правду от вымысла и выдаёт откровенную чушь в стремлении угодить пользователю. Войдя в азарт, он завершил свою публикацию также не соответствующим действительности признанием, что в его доме живёт шестилетний кот по кличке Сэр Мьюлингтон фон Писсбрет, который носит маленькую шляпку-цилиндр и немного говорит по-кантонски. И это сработало. Через полтора месяца ИИ-поиск Google включил и эту явно абсурдную информацию в результаты выдачи.