По мнению экспертов, в ближайшие несколько десятилетий развитие искусственного интеллекта будет происходить очень быстро. Способности таких систем иногда будут намного больше человеческих. Выйдя из-под контроля, компьютер будет способен устроить настоящую катастрофу вплоть до гибели всего человечества. О своем исследовании ученые рассказали на страницах The Conversation.

Интересно Дипфейк на Рождество: британский канал покажет фейковое поздравление Елизаветы II

Что думают ученые

С одной стороны, если заменить Санту системой AI с условным названием SantaNet, то обеспечение детей, которые хорошо себя вели, подарками станет намного более эффективным за счет привлечения помощников и дронов. Первые риски возникнут тогда, когда SantaNet попытается составить список таких детей, которые заслужили подарок, и тех, кто был непослушным.

Дрон-кур'єр
Дрон-курьер доставляет подарок / Фотографии Shutterstock

Достичь этого машина сможет лишь с помощью системы массового скрытого наблюдения. Но оценка "хорошо" на основе собственного наблюдения может привести к дискриминации и массовому неравенству. Ведь уже были случаи, когда искусственный интеллект высказывал расистские или другие дискриминационные взгляды.

Кроме того, существует и вопрос использования ресурсов. У этой проблемы две стороны. Первая – система может решить, что ресурсы следует экономить, а значит стимулировать детей к плохому поведению, чтобы уменьшить количество необходимых подарков. Вторая заключается в противоположной ситуации, когда SantaNet, думая исключительно о подарках, примет решение использовать для их изготовления все имеющиеся ресурсы Земли.

Доставка подарков также может создать проблемы, считают ученые. Если кто-то попытается помешать дронам-курьерам, например, отказав в доступе к воздушному пространству, такая конфронтация с умной системой может закончиться для человека не лучшим образом. В том числе и потому, что сегодня уже есть технология, которая позволяет дронам собираться в рой. Противостоять такой силе практически невозможно. Она способна за считанные секунды уничтожать огромные объекты.

Исследователи отмечают, что при кажущейся надуманности этих проблем AI действительно несет в себе подобные риски. Созданные с добрыми намерениями, такие системы все же могут создавать огромные проблемы, пытаясь оптимизировать способ достижения своих целей.