Искусственный суперинтеллект. Сможем ли мы его контролировать?

0
503
Искусственный супер интеллект

Нынешний искусственный интеллект считается узким, часто ошибающимся и совсем не близким к тому, что как любой из нас представляет интеллектом.  С более быстрыми процессорами, машинным обучением и большим количеством данных мы по-прежнему не имеем никакого общего (широкого) интеллекта. В некотором смысле, мы все еще находимся на пути расширения возможностей вычислительных ресурсов.

Следующим шагом развития ИИ станет широкий искусственный интеллект (AGI)

Широкий искусственный интеллект — система, которая может проявлять такой интеллект, который вы видите даже у маленького ребенка, сочетая аспекты рассуждения здравого смысла с общими рассуждениями и с тем, что еще мы хотим приписать интеллектуальному поведению.

Предположим, мы создали AGI, тогда что произойдет дальше?

Учитывая экспоненциальный рост в вычислениях в ИИ и его масштабируемость, AGI будет лишь промежуточным звеном в развитии искусственного суперинтеллекта ASI (Artificial SuperIntelligence). ASI будет значительно превышать способности человеческого интеллекта. AGI это то, что мы считаем повседневным интеллектом, в то время как ASI выводит нас за пределы Аристотеля или Эйнштейна,  и за пределы любого человеческого интеллекта, который мы когда-либо знали. Мы даже не уверены, из чего состоит этот ASI. Это вполне может стать реальностью, хотя бы, потому что мы оказались в ловушке нашего собственного человеческого интеллекта. Возможно, нашему человеческому интеллекту не хватает воображения, которое позволило бы нам представить себе, что такое суперинтеллект.

Чтобы лучше понять и попытаться приблизиться к пониманию способностей искусственного суперинтеллекта, представим что интеллект всех живых ученых в наше время на физическом уровне был объединен в один. Наверняка такой общий интеллект был бы великим интеллектом современности. Но стал бы он суперинтеллектом? — Нет. Очень много ученых не дожили до нынешних дней. И мы уже никак не сможем восстановить интеллект Эйнштейна или Аристотеля. А чтобы прочитать, понять и проанализировать  все работы всех ученных за последние 2000 лет, даже таким объединенным интеллектом, понадобится масса времени и возможна не одна сотня лет.

А теперь представим искусственный суперинтеллект, который объединил в себе знания всех ученных современности и прошлых лет. При этом весь опыт и знания в философии, физике, математике и других науках пополняются практически мгновенно сразу после их появления. Происходит постоянное сверхбыстрое обновление. Потом такая система решает себя усовершенствовать. Делает свою копию и начинает соревноваться с ней. Как известно, в споре рождается истина. Похожий метод обучения уже применялся AlphaZero.  И так непрерывно. Не думаю, что в этой истории будет счастливый конец.

Учитывая превосходство ASI над человеческим интеллектом, сможет ли человечество контролировать ASI? А может всё будет наоборот и в какой-то момент искусственный суперинтеллект захочет избавиться от контроля?

Илон Маск уже давно говорил: «Опасность ИИ гораздо больше, чем ядерных боеголовок«, что нам уже сейчас стоит задуматься над внедрением контроля в сфере ИИ.

Автор: Станислав Чесноков. Специально для Ai360.