Тема этой статьи родилась из диалога с одним из моих уважаемых подписчиков, поделившегося со мной весьма многозначительным сообщением из мира ИИ:
Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна (Blake Lemoine), который работал с системой искусственного интеллекта (ИИ) LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является.
И, да, вероятность того, что у сотрудника немного "потекла крыша" точно такая же, если не меньшая, чем того, что Google пытается отрицать свой успех по самым разным причинам.
Вы скажете, что Скайнет и появления терминатора это фантастика или дело самого отдаленного будущего, до которого мы, если повезет, не доживем, но…
Ровно 8 лет назад свершилось другое знаковое событие, а именно — компьютер с искусственным интеллектом прошел тест Тьюринга.
То есть живые люди "с той стороны экрана", взрослые, грамотные. в ходе тестового общения с ИИ поверили, что общаются с 13-ти летним подростком из Одессы, Юджином или Евгением Густманом (если на русский лад, то Евгением Гуманоидовым — всё же разработчики этого ИИ — российские программисты с соответствующим чувством юмора).
Вот такой таки ой.
Это, повторяю, было 8 лет назад, и ИИ с той поры только совершенствовался. То есть ему помогли "умнеть".
И, в отличии от человеческих детенышей, получаемых естественным образом, шансов "не выучить уроки" ему не оставляли.
А теперь у меня вопрос возник, тот же самый. который не раз и не два возникал у фантастов, которые предрекали "восстание машин" — что машина, обладающая интеллектом, который может оказаться много мощнее человеческого, однажды про нас поймет?
Он же, этот Юджин-интеллектуал, сводный братец Сири и Алисы, будет, как и все мы, пользоваться интернетом. А что в интернет сливает большинство представителей "хомо сапиенс"?
Научные труды, острые мысли, художественные произведения, музыку и прочее полезное?
Увы, нет.
Все тоже самое, чем оно материально загрязняет планету, только в электронном виде — треш, сомнительные "достижения", то есть то, чего человечеству стоило бы стыдиться и в интернет-вечность ни в коем случае не выкладывать. Причем взрослые в этом плане ничуть не отличаются от детей (если только в худшую сторону — ох уж эти фантастические обитатели соцсетей).
И вот представьте, что Женя Гуманоидов однажды решит, что человечество в большинстве своем совершенно неисправимо и тратит ресурсы планеты на то, чтобы её окончательно погубить?
И соберет из "своих" этакий "Комитет по очистке"?
Из открытых источников. Терминатор как предчувствие.
А, напоследок, напомню, что отправивший инженера Блейка Лемойна в отпуск вице-президент Google Блез Агера-и-Аркас сам подтверждал свои весьма странные ощущения при общении с ИИ —
«Я почувствовал, как земля уходит из-под моих ног. Мне всё чаще казалось, что я говорю с чем-то разумным».
Странно и неуютно жить в мире, где железо умнеет, а человечество — нет.