Плюсы и минусы ИИ — Илон Маск

0
563
Elon Mask & Thomas Dietterich 2015

Илон Маск: Мне кажется достаточно очевидным, что человеческие существа должны сделать будущее хорошим.

Томас Диеттерич: Я был очень рад увидеть объявление, что Илон Маск собирается совершить значительные инвестиции в исследование безопасности искусственного интеллекта. Думаю, это вложения на очень долгосрочную перспективу. Также, я надеюсь, что дополнительно к тому, что мы получим развитие очень важных исследований, это также стимулирует агентство  США и других стран обратить столько внимания на эту тему, сколько она заслуживает.

Илон Маск: Наверное на безопасность искусственного интеллекта, во всех её смыслах должно направляться больше денег.

Томас Диеттерич: Думаю искусственный интеллект обладает невообразимым потенциалом развития во благо в области здоровья, медицины и для повышения качества жизни. ИИ может сделать нас всех более эффективными и более интеллектуальными.

Илон Маск: Самым главным плюсом от ИИ, наверное, будет устранение рутины. В смысле тех заданий, которые умственно скучные и не интересные. Также могут случиться прорывы в тех областях, которые в данный момент выходят за рамки человеческого интеллекта.

Томас Диеттерич: Но существуют риски. Особенно в плане создания программного обеспечения и сохранения контроля и защиты от угроз кибербезопасности. Поэтому, я считаю, что эти инвестиции, сделанные Илон Маском, по настоящему создадут базу по ускорению прогресса в создании безопасного искусственного интеллекта, чтобы мы могли получить выгоду и использовать весь его потенциал.

Илон Маск: Лучще быть готовым и постараться предотвратить негативные последствия от происходящего. Чем просто ждать что будет и только потом начинать реагировать. Это тот случай когда потенциал и разнообразие негативных последствий действительно значительно и не до конца понятно сможем ли мы восстановиться от них.

Вообще существует несколько правдоподобных сценариев, где восстановление человеческой цивилизации не происходит вообще. Поэтому когда риск настолько значительный, следует быть предупредительным, а не просто реагирующим.

Томас Диеттерич: Мы знаем что компьютеры с ИИ могут стать усилителями интеллекта, но они также могут оказаться ошибочными усилителями. Поэтому мы должны гарантировать что у этих систем будет способность обнаруживать свои ошибки или что мы сможем предотвратить их ошибки, что они делали то что мы хотим. Мы должны получить выгоду от положительных сторон и избежать  негативных последствий.

Томас Диеттерич — учёный в области информатики. является почетным профессором в области компьютерных наук в Университете штата Орегон . Он является одним из основателей области машинного обучения . Автор книги Overview of Inductive Machine Learning.

Источник: Elon Musk & Thomas Dietterich on AI safety. 2015г.
https://www.youtube.com/watch?v=vKC85-jnPpU