Поиск

Несколько последних лет наглядно показали нам, что люди абсолютно неспособны конкурировать с искусственным интеллектом, по крайней мере, в областях логических игр, таких, как шахматы, Го и покер. Однако, все перечисленные игры относятся к разряду конкурентных игр, подразумевающих, что игроки являются противниками и находятся все время в постоянном конфликте друг с другом. Однако, в реальном мире искусственный интеллект не должен быть конкурентом или противником человеку ни при каких условиях, поэтому одна из групп исследователей сосредоточила свое внимание на играх другого класса, играх, которые для достижения результата требуют поисков компромиссов, взаимодействия и достижения взаимопонимания между игроками. И, что вполне ожидаемо, исследователи обнаружили, что новая система способна делать все перечисленное выше лучше, чем это могут делать сами люди. Исследователи разработали специализированный алгоритм, получивший название S#, и проверили его работу путем множества игр человека с человеком, человека с машиной и машины с машиной. Основными играми были "Prisoner's Dilemma" и "Shapley's Game", которые требуют разного уровня взаимодействия и взаимопонимания между игроками для получения высокого результата. И снова машина выиграла у людей в большинстве случаев. "Два человека, будь они абсолютно лояльны и честны по отношению друг к другу, сыграли бы точно так же, как сыграла наша машина" - рассказывает Джейкоб Крэндол (Jacob Crandall), ведущий исследователь, - "Но, как оказалось, приблизительно половина людей-игроков солгала в чем-то в некоторый момент, что отрицательно сказалось на качестве игры. Наш же алгоритм принципиально не умеет лгать, он запрограммирован искать компромиссы и поддерживать взаимодействие всегда, когда для этого предоставляется возможность". Через некоторое время исследователи встроили в свой алгоритм функции, снабдившие его возможностью участвовать в "простом разговоре", болтать с партнером, другими словами. Этот "простой разговор" реализуется в виде несложных фраз, которыми машина реагирует на совместные действия ("Дорогой! Мы разбогатели!"), на признаки расположения или обмана ("Ты заплатишь за это!") со стороны человека. Когда машина обрела такую способность, большинство людей не оказалось в состоянии определить, играют ли они в паре с машиной или в паре с другим живым человеком, и, как показали эксперименты, уровень взаимодействия и взаимопонимания увеличился в два раза только за счет функции "простого разговора". Исследователи считают, что проделанная ими работа позволит в будущем создать машины, автомобили-роботы, к примеру, которые будут одинаково хорошо взаимодействовать как с другими машинами, так и с живыми людьми. "В современном обществе отношения между людьми ломаются очень часто и больше не восстанавливаются" - рассказывает Джейкоб Крэндол, - "Люди, бывшие друзьями в течение многих лет, внезапно становятся врагами. Машины, построенные на разработанных нами принципах, будут лишены таких недостатков, и, что самое главное, они смогут научить нас самих искусству взаимопонимания, налаживания и возобновления дружеских взаимоотношений".

Искусственный интеллект уже может предсказывать будущее. Полиция использует его для составления карты, отражающей, когда и где может произойти преступление. Врачи используют его для прогнозирования, когда у пациента может случиться инсульт или сердечный приступ. Ученые даже пытаются дать ИИ воображение, чтобы он мог предвидеть неожиданные события. Многие решения в нашей жизни требуют хороших прогнозов, и агенты ИИ почти всегда лучше справляются с ними, чем люди. Тем не менее для всех этих технологических достижений нам по-прежнему не хватает уверенности в прогнозах, которые дает искусственный интеллект. Люди не привыкли полагаться на ИИ и предпочитают доверять экспертам в лице людей, даже если эти эксперты ошибаются. Если мы хотим, чтобы искусственный интеллект нес пользу людям, нам нужно научиться доверять ему. Для этого нам нужно понять, почему люди так настойчиво отказываются доверять ИИ. Доверьтесь доктору Роботу Попытка IBM представить суперкомпьютерную программу врачам-онкологам (Watson for Oncology) стала провальной. ИИ обещал предоставить высококачественные рекомендации по лечению 12 видов рака, на долю которых приходится 80% случаев в мире. На сегодняшний день более 14 000 пациентов получили рекомендации на основании его расчетов. Но когда врачи впервые столкнулись с Watson, они оказались в довольно сложной ситуации. С одной стороны, если Watson давал указания относительно лечения, совпадающие с их собственными мнениями, медики не видели большой ценности в рекомендациях ИИ. Суперкомпьютер просто рассказывал им то, что они уже знали, и эти рекомендации не меняли фактического лечения. Это, возможно, давало врачам спокойствие и уверенность в собственных решениях. Но IBM еще не доказала, что Watson действительно увеличивает процент выживаемости с раком. С другой стороны, если Watson давал рекомендации, которые расходились с мнением экспертов, врачи заключали, что Watson некомпетентен. И машина не могла объяснить, почему ее лечение должно сработать, потому что ее алгоритмы машинного обучения были слишком сложными, чтобы их могли понять люди. Соответственно, это приводило к еще большему недоверию, и многие врачи просто игнорировали рекомендации ИИ, полагаясь на собственный опыт. В результате главный медицинский партнер IBM Watson — MD Anderson Cancer Center — недавно сообщил об отказе от программы. Датская больница также сообщила, что отказывается от программы после того, как обнаружила, что врачи-онкологи не согласны с Watson в двух случаях из трех. Проблема онкологического Watson была в том, что врачи ему просто не доверяли. Доверие людей часто зависит от нашего понимания того, как думают другие люди, и собственного опыта, укрепляющего уверенность в их мнении. Это создает психологическое чувство безопасности. ИИ же, с другой стороны, относительно новая и непонятная для людей штука. Он принимает решения, основываясь на сложной системе анализа для выявления потенциальных скрытых закономерностей и слабых сигналов, вытекающих из больших объемов данных. Даже если его можно объяснить техническим языком, процесс принятия решений ИИ, как правило, слишком сложный, чтобы его могли понять большинство людей. Взаимодействие с чем-то, чего мы не понимаем, может вызвать тревогу и создать ощущение утраты контроля. Многие люди попросту не понимают, как и с чем работает ИИ, потому что это происходит где-то за ширмой, в фоновом режиме. По этой же причине они острее подмечают случаи, когда ИИ ошибается: вспомните алгоритм Google, который классифицирует цветных людей как горилл; чатбот Microsoft, который стал нацистом менее чем за день; автомобиль Tesla, работающий в режиме автопилота, в результате которого произошел несчастный случай со смертельным исходом. Эти неудачные примеры получили непропорционально большое внимание средств массовой информации, подчеркивающих повестку того, что мы не можем полагаться на технологии. Машинное обучение не является на 100% надежным, отчасти потому что его проектируют люди. Раскол общества? Чувства, которые вызывает искусственный интеллект, уходят глубоко в природу человеческого существа. Недавно ученые провели эксперимент, в ходе которого опросили людей, смотревших фильмы про искусственный интеллект (фантастические), на тему автоматизации в повседневной жизни. Выяснилось, что независимо от того, был ИИ в фильме изображен в позитивном или негативном ключе, простой просмотр кинематографического представления нашего технологического будущего поляризует отношения участников. Оптимисты становятся еще более оптимистичными, а скептики закрываются еще сильнее. Это говорит о том, что люди предвзято относятся к ИИ, отталкиваясь от собственных рассуждений, такова глубоко укоренившаяся тенденция предвзятого подтверждения: тенденция искать или интерпретировать информацию таким образом, чтобы подтвердить заранее имевшиеся концепции. Поскольку ИИ все чаще мелькает в медиа, это может способствовать глубокому разделению общества, расколу между теми, кто пользуется ИИ, и теми, кто его отвергает. Преобладающая группа людей может получить серьезное преимущество или гандикап. Три выхода из кризиса доверия ИИ К счастью, у нас есть мысли на тему того, как справиться с доверием к ИИ. Одно только наличие опыта работы с ИИ может значительно улучшить отношение людей к этой технологии. Есть также свидетельства, указывающие на то, что чем чаще вы используете определенные технологии (например, Интернет), тем больше вы им доверяете. Другое решение может заключаться в том, чтобы открыть «черный ящик» алгоритмов машинного обучения и сделать их работу более прозрачной. Такие компании, как Google, Airbnb и Twitter, уже публикуют отчеты прозрачности о государственных запросах и раскрытии информации. Подобная практика в системах ИИ поможет людям получить нужное понимание того, как алгоритмы принимают решения. Исследования показывают, что вовлечение людей в процесс принятия решений ИИ также повысит степень доверия и позволит ИИ учиться на человеческом опыте. Исследование показало, что люди, которым давали возможность слегка модифицировать алгоритм, чувствовали большую удовлетворенность от результатов его работы, по всей видимости, из-за чувства превосходства и возможности влиять на будущий исход. Нам необязательно понимать сложную внутреннюю работу систем ИИ, но если предоставить людям хотя бы немного информации и контроля над тем, как эти системы реализуются, у них появится больше доверия и желания принять ИИ в повседневную жизнь.

Возможно, за всю историю Вселенной не существовало другого разумного, технологически развитого вида существ, кроме людей. Когда вы принимаете во внимание, что в Млечном Пути может быть 400 миллиардов звезд, каждая с тремя потенциально обитаемыми мирами, а во Вселенной — около двух триллионов галактик, разумная жизнь кажется вполне распространенным явлением. Но интуиция вполне может нас подводить, потому что наши предположения зачастую ненаучны. Величина неизвестных, которые могут быть спрятаны в абиогенезе, эволюции, долгосрочной адаптации и других факторах, не дает нам составить точное уравнение жизни. Существует астрономическое число возможностей развития разумной, технологически развитой жизни, но огромные неопределенности делает вполне возможным вариант того, что люди — единственные космические обитатели. В 1961 году ученый Фрэнк Дрейк представил первое уравнение, предсказывающее, сколько во Вселенной может быть покоряющих космос цивилизаций. Он опирался на серию неизвестных величин, которые мог оценить приблизительно, и в конечном итоге назвал приблизительное число технологически развитых цивилизаций, которые существовали в прошлом и в настоящем, в нашей галактике и в наблюдаемой Вселенной. Прошло 55 лет, и сегодня некоторые из этих величин позволяют нам сделать более точные прогнозы. Во-первых, сильно улучшилось наше понимание размера и масштаба Вселенной. Теперь мы знаем, благодаря наблюдениям космических и наземных обсерваторий, охватывающих весь спектр электромагнитных длин волн, насколько велика Вселенная и сколько в ней галактик. Мы стали лучше понимать, как образуются и функционируют звезды, и чем глубже мы вглядываемся в космическую бездну, тем точнее оцениваем число звезд во Вселенной. Звезд во Вселенной было много — порядка 1024 — и, исходя из этого числа, можно оценивать шансы на появление жизни за 13,8 миллиарда лет. Мы привыкли удивляться тому, сколько звезд имеют планеты под боком, при этом твердые и с вполне интересной атмосферой, похожей на нашу, и насколько много таких планет находятся на подходящем расстоянии от своей звезды, чтобы на поверхности была жидкая вода. Долгое время мы удивлялись только этому. Но благодаря космическому телескопу «Кеплер», мы узнали много нового: 80-100% звезд обладают планетарной системой или планетами; 20-25% из этих систем обладают планетой в «обитаемой зоне», в которой вода будет оставаться в жидком состоянии на поверхности; 10-20% этих планет похожи на Землю в размерах и массе; Таким образом, во Вселенной будет около 1022 потенциально обитаемых планет земного типа с подходящими условиями. Более того, практически все эти планеты будут обогащены тяжелыми элементами и ингредиентами, необходимыми для жизни. Глядя на межзвездную среду, на облака молекулярного газа, на центры далеких галактик, мы видим все элементы периодической таблицы — углерод, азот, кислород, кремний, серу, фосфор, медь, железо и многое другое. Заглядывая в метеоры и астероиды в нашей собственной Солнечной системе, мы находим не только эти элементы, но и их органические образования — сахара, бензольные кольца и даже аминокислоты. Другими словами, во Вселенной должно быть не просто 1022 потенциально обитаемых планет, а 1022планет с необходимыми для жизни элементами. Но на этом наш оптимизм заканчивается. Если, конечно, мы будем честными и скрупулезными. Потому что для того, чтобы появилась развитая цивилизация, должно произойти три монументальных события: Абиогенез — когда сырье, связанное с органическими процессами, внезапно превращается в «жизнь». Жизнь должна просуществовать и пережить миллиарды лет на планете, чтобы обзавестись такими свойствами, как сложность, многоклеточность, дифференциация и «разум». Наконец, разумная жизнь должна стать технологической цивилизацией, чтобы либо объявить о своем присутствии во Вселенной, либо выйти за пределы собственного дома и исследовать Вселенную, либо услышать и обнаружить другие формы интеллекта во Вселенной. Когда Карл Саган представил «Космос» в 1980 году, он заявил, что разумно было бы дать каждому из этих трех шагов по 10% шанса на успех. Если бы это было правильно, в галактике Млечный Путь существовало бы более 10 миллионов разумных инопланетных цивилизаций. Есть те, кто утверждает, что суммарно эти три шага имеют вероятность случиться меньше, чем в 10-22. Но это само по себе нелепое утверждение, ни на чем не основанное. Абиогенез может быть распространенным явлением; он мог много раз происходить на Земле, на Марсе, Титане, Европе, Венере, Энцеладе или даже за пределами нашей Солнечной системы. Но это может быть такой редкий процесс, что даже если бы мы создали сто клонов молодой Земли — или тысячу, или миллион, или больше — наш мир мог бы стать единственной планетой, на которой появилась жизнь. И даже если жизнь действительно появится, насколько высока вероятность, что она выживет и будет процветать миллиарды лет? Будет ли сценарий катастрофического потепления, как на Венере, нормой? Или сценарий катастрофического замораживания и атмосферных потерь, как на Марсе? Или жизнь в конечном итоге отравит себя сама своим существованием, как это было на Земле два миллиарда лет назад? И даже если жизнь выживет в течение миллиардов лет, с какой частотой будут происходить кембрийские взрывы, когда огромные, многоклеточные, макроскопические растения, животные и грибы стали доминировать на планете? Это может быть относительно распространенным или же редким сценарием, происходящим или в 10% случаев, или вообще практически не происходящим. И даже если допустить все это, насколько высока вероятность появления технологически развитого, использующего инструменты и запускающего ракеты вида вроде человека? Сложные рептилии, птицы и млекопитающие, которых можно считать умными по многим показателям, существуют в течение десятков и сотен миллионов лет, но современные люди появились меньше миллиона лет назад, а «технологически развитыми» стали в прошлом столетии. Будет ли 10%-й шанс, что, преодолев предыдущие этапы развития, вы станете космической цивилизацией? В это трудно поверить. И мы не знаем, по правде говоря. Мы знаем, что разумная жизнь во Вселенной должна появляться довольно часто (1022). И знаем, что есть небольшой шанс стать покоряющей космос цивилизацией. Но мы не знаем, каков этот шанс — 10-3, 10-20 или 10-50. Нам нужны данные. И никакие предположения или заявления их не заменят. Нам нужно найти жизнь, чтобы узнать наверняка о ее существовании. Все остальное — не что иное, как обычные домыслы.