"Він небезпечніше будь-яка зброя" Творці нового штучного інтелекту засекретили свою розробку

"Він небезпечніше будь-яка зброя" Творці нового штучного інтелекту засекретили свою розробку

Американська компанія OpenAI, що займається розробками в області штучного інтелекту, представила нову версію самонавчальної нейромережі GPT - 2. Алгоритм роботи ШІ виявився настільки вражаючим, що творцям довелося відключити частину його функцій, а журналісти порівняли його потенційну небезпеку із справжньою зброєю.

Компанія OpenAI створила нову версію генератора текстів, потенційно здатну створювати в промислових масштабах фейковые новини і небезпечний спам з ефективними кликбейтными заголовками. Для навчання системи GPT - 2 розробники використали вісім мільйонів веб-сторінок. Як затверджується, вона здатна адаптуватися до стилю і змісту заданого фрагмента тексту - наприклад, закінчити вірш Шекспіра або дописати замітку, використовуючи одно початкову пропозицію.

Представники компанії заявили, що були вимушені відключити частину функцій системи перед анонсом із-за можливості її використання в шкідливих цілях. Журналістам вдалося протестувати "урізану" систему - після введення однієї пропозиції, вони отримали від штучного інтелекту цілком зв'язний осмислений текст, хоча в нім і вгадувався "машинний почерк".

"Це працює досить добре, щоб використати його в якості загального штучного інтелекту для генерації тексту. Я в жаху від GPT - 2, тому що він є технологією, яку можна використати для маніпулювання населенням. На мою думку, це робить його небезпечнішим, ніж будь-яка зброя", - відмітив журналіст видання The Next Web Тристан Грін після тестування ШІ-алгоритму.


skynet animated logo

У перспективі технологія генерації тексту може використовуватися для створення книг на основі вже існуючих творів відомих авторів. Дата релиза повнофункціональної версії GPT - 2 не оголошена.

- Знаєте, це древнє побоювання: машина стала розумніша за людину і підім'яла його під себе... Півсотні років назад в Массачусетсі запустили найскладніший кібернетичний пристрій, що коли-небудь існував. З якоюсь там феноменальною швидкодією, неозорою пам'яттю і таке інше... І пропрацювала ця машина рівно чотири хвилини. Її вимкнули, зацементували усі входи і виходи, відвели від неї енергію, замінували і обнесли колючим дротом. Справжнісіньким іржавим колючим дротом - хочете вірте, хочте немає.

- А в чому, власне, справа? - запитав Банін.
- Вона почала вісті себе, - сказав Горбовский.
- Не розумію.
- І я не розумію, але її ледве встигли вимкнути.
- А хто-небудь розуміє?
- Я говорив з одним з її творців. Він узяв мене за плече, подивився мені в очі і вимовив тільки: "Леонід, це було страшно"".

 "Далека Веселка" - А. і Б. Стругацькі

Схожі матеріали