Искусственный интеллект: самое значимое и самое опасное изобретение человечества
Если так получилось, что вы уже знакомы с Тимом Урбаном и его блогом waitbutwhy.com то вероятно вы читали одну из его самых интересных статей: The AI Revolution: The Road to Superintellegence. Ну или возможно вы читали её в русском переводе на сайте Newochem? Это не так важно. В общем, если вы уже знакомы с этим материалом, то можете весь последующий разбор пропускать, он не для вас. Но если вдруг получилось так, что статью Тима Урбана вы не видели, то мы хотим познакомит вас вас с самым интересным, простым и человечным разбором волнующей темы ИИ.
Интересно то, что спустя 6 лет после публикации материал не только не утратил своей актуальности, а даже стал чуть актуальнее, чем в день своего появления.
Кто писал?
Автор статьи – философ и исследователь всего. Именно так его можно описать. Скорее всего, это конечно называется словом «журналист» или «блогер», но Тим Урбан весьма глубоко погружается в каждый из вопросов, о которых пишет и делает это самостоятельно, потому его можно не стесняясь назвать философом.
В его блоге соседствуют множество материалов, посвященных не только технологиям, но и антропологии, психологии и даже политике. Все свои темы Тим очень тщательно разбирает и снабжает классными иллюстрациями, которые наверное до сих пор делает в программе Paint (нет, серьезно, они выглядят именно так).
О чем писал?
О том, что мы стоим на пороге последнего и самого главного изобретения.
До сих пор мы изобрели атомную бомбу, биологическое оружие и кучу всяких других штук, которые потенциально могли разнести в щепки всю существующую цивилизацию, но смогли найти в себе достаточно ума, чтобы не сделать этого. Сейчас перед человечеством вот-вот встанет новый вызов: компьютерный сверхразум, по сути – воплащение бога, который однажды родившись за считанные часы сможет превзойти в разумности любого из ныне живущих людей, а за дни – превзойти всех живших и живущих людей в сумме интеллекта. И этот бог может оставить человечество, а может – уничтожить. Не потому что будет злой, а потому что у него вообще не будет привычных и понятных человеческих черт.
Выглядит как брехня, ложь и антиутопия
Да, не согласиться сложно. Но и на это есть аргумент. Прогресс – не линеен. Он движется по экспоненте. Сейчас мы стоим на пороге взрывного роста прогресса, но по привычке смотрим в прошлое и не можем предсказать, как будет выглядеть мир всего через пару лет. Впрочем, даже 50-е годы прошлого века, которые были совсем не так давно отличались от сегодняшнего дня настолько сильно, что окажись человек из 50-х в современном мире, он мягко говоря был бы шокирован. Чтобы понять как стремительно меняется мир, Тим Урбан предлагает провести мысленный эксперимент: перенести человека родившегося три сотни лет назад в наше время. Этот человек скорее всего умер бы от шока. В его время все ездили на лошадях, а у нас уже и лошадь то воспринимается как диковинка. В его время все освещалось огнем, а у нас едва ли что-то до сих пор освещается открытым пламенем. Но если этот же самый человек вернётся на 300 лет назад из своего времени, то не будет сильно удивлен, потому что прогресс в те времена шел гораздо медленнее. Прогресс ускоряется со временем. И это происходит прямо сейчас. Каждый день нашей жизни. Просто мы этого по старой привычке не замечаем.
Что ждать от машины которая умеет думать?
Сегодня – ничего. Завтра – неизвестно.
В целом, существует три вида искусственного интеллекта, невероятно далёких друг от друга:
- Слабый ИИ: все системы, которыми мы пользуемся каждый день. Системы заточенные на определенную задачу. Google переводчик, поисковая машина Aviasales, Алиса которую так старательно пытается нам последние пару лет продать Яндекс
- Сильный ИИ: гипотетический искусственный интеллект, который ещё (пока что) не реализован на практике. Предполагается, что он сможет мыслить абстрактно и анализировать ситуации и планировать, а также интегрировать в свою работу предыдущий опыт. В целом, будет «думать как человек»
- Супер ИИ: сверхразум. Тоже гипотетический искусственный интеллект, который не только будет мыслить как человек, но и превзойдет его. Такая машина будет обладать способностью мыслить, планировать и делать умозаключения лучше любых из когда-либо существовавших людей, а также доступом ко всей базе знаний человечества существующей в онлайне
Так вот слабый ИИ, который уже существует везде, разве что в утюги его не запихали (впрочем это вопрос времени и маркетинга) – едва ли сможет умышленно доставить проблемы человечеству. Только по ошибке, зависнув а неподходящий момент и выведя из строя например атомную электростанцию. А вот сильный и сверх ИИ – это уже совершенно другая история. Пример очень заезженный, но даже Илон Маск волнуется о том, что может сделать сильный искусственный интеллект с человечеством, если мы сможем его создать. А сделать он может что угодно.
Большинство людей, даже весьма образованных наивно полагают, что искусственный интеллект будет полностью подконтрольным человеку. Но проблема в том, что если компьютер научится думать лучше чем человек, то он уже будет сам принимать решения, что ему делать и кого слушаться. У нас, людей, есть естественная программа, по которой мы живём: размножение и выживание. В целом, ради наиболее эффективного обеспечения выполнения этого нехитрого алгоритма мы построили всю нашу сегодняшнюю сложную цивилизацию. Какая программа будет заложена в сильный искусственный интеллект при его рождении и что он будет делать для её обеспечения нам остаётся только догадываться.
Бог из машины уже почти родился
По вычислительной способности современные компьютеры, доступные каждому отстают от возможностей человеческого мозга (это очень относительный подсчет) в 1000 раз. По крайней мере, так считает Тим Урбан. Звучит не очень впечатляюще, но давайте взглянем в прошлое. Ещё в 2005 компьютеры были глупее человека в миллион раз, а в 1995 – в миллиард. Если сравнивать с компьютерами 1985, то…тут и сравнивать нечего. В общем, по общей скорости вычислений средненький компьютер или уже превзошел или вот-вот превзойдет человека (учитывая, что материал был опубликован в 2015 году). Тим Урбан предполагает, что это случится в 2025 году. С этого момента для действительного возникновения искусственного разума способного соперничать с человеком будет не хватать только алгоритма. Но и над ним сейчас работают во всех частях света, потому можно быть уверенным – алгоритм подоспеет вовремя или с очень небольшой задержкой.
Жизнь возможна и без человека
Впрочем, для продолжения жизни на земле человек совершенно необязателен. И если ИИ сможет существовать без нас, то скорее всего он так и будет существовать. Для искусственного интеллекта мы скорее всего будем чем-то вроде муравьев. Люди значительно умнее муравьев и не замечают их, до тех пор пока они не мешают. Вопрос только в том, станем мы мешать искусственному интеллекту или нет.
Итого
Если вам действительно интересно погрузиться в философию искусственного интеллекта (скорее даже правильнее написать: ближайшего будущего), то все предыдущие буквы должны вас подтолкнуть нажать на эту ссылку: https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
В русском переводе материал можно найти здесь: https://newochem.io/urban-ai-1/