На думку експертів, в найближчі кілька десятиліть розвиток штучного інтелекту відбуватиметься надзвичайно швидко. Здібності таких систем подекуди набагато більші за людські. Вийшовши з-під контролю, комп'ютер буде здатний влаштувати справжню катастрофу аж до загибелі всього людства. Про своє дослідження вчені розповіли на сторінках The Conversation.
Цікаво Діпфейк на Різдво: британський канал покаже фейкове привітання Єлизавети II
Що думають вчені
З одного боку, якщо замінити Санту системою AI з умовною назвою SantaNet, то забезпечення дітей, які добре себе вели, подарунками стане набагато ефективнішим за рахунок залучення помічників і дронів. Перші ризики виникнуть тоді, коли SantaNet спробує скласти список таких дітей, які заслужили подарунок, і тих, хто був неслухняним.
Дрон-кур'єр доставляє подарунок / Зображення Shutterstock
Досягти цього машина зможе лише за допомогою системи масового прихованого спостереження. Але оцінка "добре" на основі власного спостереження може призвести до дискримінації та масової нерівності. Адже уже траплялись випадки, коли штучний інтелект висловлював расистські чи інші дискримінаційні погляди.
Крім того, існує й питання використання ресурсів. У цієї проблеми дві сторони. Перша – система може вирішити, що ресурси варто економити, а отже стимулюватиме дітей до поганої поведінки, щоб зменшити кількість необхідних подарунків. Друга ж полягає у протилежній ситуації, коли SantaNet, думаючи виключно про подарунки, прийме рішення використати для їх виготовлення усі наявні ресурси Землі.
Доставка подарунків також може створити проблеми, вважають вчені. Якщо хтось спробує перешкодити дронам-кур'єрам, наприклад, відмовивши у доступі до повітряного простору, така конфронтація з розумною системою може скінчитися для людини не найкращим чином. Зокрема й тому, що сьогодні вже є технологія, яка дозволяє дронам збиратися у рій. Протистояти такій силі практично неможливо. Вона здатна за лічені секунди знищувати величезні об'єкти.
Дослідники відзначають, що при уявній надуманості цих проблем AI дійсно несе в собі подібні ризики. Створені з добрими намірами, такі системи все ж можуть створювати величезні проблеми, намагаючись оптимізувати спосіб досягнення своїх цілей.