Ученые прогнозируют уничтожение человечества искусственным интеллектом

Австралийские ученые пришли к выводу, что ИИ (искусственный интеллект) вполне может стать причиной уничтожения человечества или нанесения ему колоссального ущерба. При этом вовсе не обязательно, чтобы ИИ имел злой умысел. Исследователи провели мысленный эксперимент, в основе которого была гипотетическая система SantaNet, а ее главной задачей была отправка подарков хорошим детям по всей планете в течение одной ночи.

Ученые установили, что опасность появляется еще на стадии определения, какие дети считаются хорошими, а какие нет. Учитывая, что SantaNet руководствовался бы личными субъективными моральными убеждениями, уже на этом этапе использование ИИ может привести, например, к дискриминации. Вдобавок ИИ для оптимизации расходов может начать стимулировать плохое поведение у детей или завысить требования «хорошего поведения».

Так как на Земле живет примерно 2 млрд. детей, SantaNet может превратить нашу планету в один большой завод по созданию подарков. Подобную проблему описал Ник Бостром и назвал ее «проблема скрепок». Она заключается в том, что если доверить ИИ оптимизацию и повышение эффективности производства скрепок, то искусственный интеллект воспримет проблему слишком буквально.

Не стоит забывать и о политических тонкостях, ведь для того, чтобы доставить подарки детям по всему миру, SantaNet должен иметь беспрепятственный проход через границы государств, что в свою очередь может привести к конфронтации между государствами, которые не захотят пропускать через своё воздушное пространство армии дронов. Кроме этого, ИИ может быть взломан злоумышленниками и использован не на благо человечества, а например в террористических целях. Также проблемой может стать взаимодействие нескольких ИИ, которые будут заниматься решением таких проблем как: изменение климата, продовольственная и водная безопасность, деградация биосферы планеты и др. Это может вызвать либо конфликт, либо сотрудничество ИИ, с целью частичного или полного уничтожения человечества, которое по их мнению будет мешать достижению поставленных задач.

 
Подписывайтесь на наш канал:

Комментарии: