Экзистенциальный риск

Чем вообще отличается компьютер от человека? Материалом? Отсутствием чувств? Да, но и эти различия скоро сотрутся. Взгляните на это:

Этих крутых парней научили играть, они катают туры, дают концерты.

А этих даже комментировать не буду. И это те, что уже умеют что-то делать физически, а есть просто коробки, которые с виду ничего не делают, только лампочками моргают, но манипулируют таким объемом информации, что человечество не осилит тысячелетиями.

Есть ли у них чувства? А как же, они видят, они чувствуют препятствия, баланс, температуру и это все развивается. Да наверно они не чувствуют любовь, страх и прочие трудно описуемые чувства, но когда-нибудь найдутся те, кто сможет это объяснить машине. Они становятся быстрее, выше, сильнее, умнее. Они заменяют людей. Это не наша ли эволюция, близкая к революции?

Вот интересный диалог из первой серии пятого сезона сериала Person of Interest (В поле зрения), который здорово отражает значимость информационной безопасности:

"Думаю в коде есть баг. Машина становится самонадеянной, интуитивной, умной и даже ненасытной. Ее развивающийся интеллект даже немного тревожит.

Слова настоящего родителя. Ты должен быть горд. Ты создал настоящий искусственный интеллект.

Я стремился создать машину, которая будет служить, а не заменять нас. Суперкомпьютер, думающий в сто тысяч раз быстрее самого умного человека, является возможной угрозой. Когда он нас превзойдет, глупо будет воображать, что мы можем его контролировать. Если необузданный искусственный супер-интеллект увидит в нас угрозу, это может привести к вымиранию человечества.

С чего ему становиться враждебным? Он может быть дружелюбным. Даже с долей человеческого сострадания, он мог бы излечить рак, решить проблему потепления, наконец просто покончить с бедностью.

Или поступить наоборот - создать полный хаос. Мне жаль, это экзистенциальный риск, который просто не допустим. Есть только один способ убедиться, что до этого не дойдет.

Какой же?

Сдержать его рост. Очищать ОЗУ каждую полночь.

Стирать все воспоминания? Это жестоко. Воспоминания делают нас теми, кто мы есть. Однажды кто-нибудь создаст свободный ИИ, и единственный вопрос здесь - когда? Почему бы не ты? Если конечно не доверишь кому-нибудь еще создать такой, который будет дружелюбен к людям."

Компьютеры, машины, роботы - это наше отражение. Они как дети, способны научиться всему, что умеют их учителя.

Я не берусь предсказывать к чему это все приведет. Есть много путей развития. Но все они будут отражать их создателей. Поэтому мне видится это лишь новой площадкой борьбы добра и зла, борьбы интересов, которая идет уже много тысячелетий и эволюционирует. И судьи на этой площадке - хакеры, они же игроки, тренеры и болельщики. И пусть играют, но не забывают о безопасности.

<!--

Клуб Информационной Безопасности сегодня - это полнофункциональная среда коммуникации для специалистов #поИБ, включающая в себя блоги, форум, личные профили, группы, базу знаний и новостной агрегатор. Все наши ресурсы призваны развивать специалистов по информационной безопасности и отрасль в целом.

Присоединяйтесь к нам на http://informationsecurity.club/

!>