Більш ніж 1000 експертів в галузі штучного інтелекту та представників наукового товариства закликають до запровадження мораторію на навчання систем AI, які є більш продуктивними за нещодавно представлену модель GPT-4. Цю ідею також підтримують Ілон Маск, Стів Возняк, Йошуа Бенджіо, Стюарт Рассел та Юваль Ной Харарі.
Некомерційний інститут Future of Life опублікував відкритий лист. У листі йдеться про ризики для людства, які криються в подальшому неконтрольованому розвитку систем штучного інтелекту. Навчання штучного інтелекту пропонується призупинити.
«Ми закликаємо всі лабораторії штучного інтелекту негайно призупинити навчання потужніших за GPT-4 систем AI. Ця пауза має бути контрольованою та обов’язковою для всіх ключових учасників. Якщо таке припинення не може бути швидко узгоджено, уряди мають втрутитися та запровадити мораторій».
Автори листа пропонують під час паузи розробити та впровадити набір загальних протоколів безпеки для подальшого проєктування та розробки AI. Незалежні зовнішні експерти мають взяти розробку цих протоколів під свій контроль.
Future of Life підкреслює, що ця пропозиція не є пропагандою зупинки розвитку штучного інтелекту загалом. Це є лише одним із заходів, які необхідно вжити зараз для запобігання появи більш потужних і непередбачуваних моделей штучного інтелекту.
Виконавчий директор OpenAI Сем Альтман не підтримав цю ідею та не залишив свого підпису під листом.
Після публікації листа на представників Future of Life обрушилася хвиля критики. Їх звинуватили у просуванні «хайпу навколо AI». На думку критиків, висунуті у листі ідеї, сильно перебільшують поточний стан та потенційні можливості технології.
Прочитати повний текст листа та підписати його можна тут.
Джерело: Reuters
Слідкуйте за нами
