Редактори Вікіпедії вдалися до обмеження використання штучного інтелекту на платформі, у нещодавньому оновленні політики заборонивши використання великих мовних моделей для написання або переписування статей.

Нова настанова відображає зростаюче занепокоєння спільноти Вікіпедії щодо того, що текст, згенерований ШІ, може суперечити стандартам платформи, зокрема щодо верифікованості та надійності джерел.

«Текст, згенерований великими мовними моделями, часто порушує кілька основних політик вмісту Вікіпедії», – йдеться в оновленні політики. «З цієї причини використання LLM для створення або переписування вмісту статей заборонено, за винятком випадків, зазначених нижче».

Політика все ще дозволяє обмежене використання інструментів ШІ, включаючи пропозиції щодо базових редагувань тексту власного написання редактора, за умови, що система не вводить нову інформацію. Однак редакторам рекомендується ретельно переглядати ці пропозиції.

Хоча нова політика не згадує про санкції за використання ШІ-генерованого вмісту, згідно з настановами Вікіпедії щодо розкриття інформації, повторне зловживання формує «модель руйнівного редагування» і може призвести до блокування або бану. Вікіпедія надає редакторам шлях для відновлення їхніх облікових записів після процесу апеляції.

«Блокування може бути скасоване за згодою адміністратора, який здійснив блокування, або іншими адміністраторами у випадку, якщо блокування було явно необґрунтованим, або (у дуже рідкісних випадках) за апеляцією до Арбітражного комітету», – заявила Вікіпедія.

«Фонд Вікімедіа не визначає редакційні політики та настанови у Вікіпедії; це роблять редактори-волонтери», – повідомив представник Фонду Вікімедіа Decrypt. «Сила Вікіпедії полягала і завжди полягатиме в її людиноцентричній, керованій волонтерами моделі».

За словами Емілі М. Бендер, професорки лінгвістики з Університету Вашингтона, деякі види використання мовних моделей в інструментах редагування можуть бути розумними, але провести чітку межу між редагуванням та генерацією тексту може бути складно.

«Отже, одна з речей, яку можна зробити за допомогою мовної моделі, – це створити дуже гарний засіб перевірки орфографії, наприклад», – сказала Бендер Decrypt. «Я думаю, що розумно сказати, що перевіряти орфографію при редагуванні – це нормально. А якщо ви робите наступний крок, перевірку граматики, це також може бути нормально».

Бендер зазначила, що проблема виникає, коли системи виходять за межі виправлення граматики та починають змінювати або генерувати вміст, наголошуючи, що великим мовним моделям бракує тієї відповідальності, яку людські учасники привносять у спільні знаннєві проєкти.

«Використання великих мовних моделей для створення синтетичного тексту є фундаментальною властивістю цих систем, що не передбачає відповідальності, жодного зв'язку з тим, у що хтось вірить або за що стоїть», – сказала вона. «Коли ми говоримо, ми говоримо, базуючись на тому, у що ми віримо і за що несемо відповідальність, а не на якомусь об'єктивному понятті істини. А цього немає у великих мовних моделях».

Бендер зазначила, що широке використання правок, згенерованих ШІ, також може вплинути на репутацію сайту.

«Якщо люди натомість йдуть на компроміси і створюють щось, що виглядає як правка або стаття Вікіпедії, і розміщують це там, то це знижує загальну цінність і репутацію сайту», – сказала вона.

Джозеф Рігл, доцент кафедри комунікаційних досліджень Північно-Східного університету, який вивчає культуру та управління Вікіпедії, заявив, що відповідь спільноти відображає давні занепокоєння щодо точності та джерел.

«Вікіпедія обережно ставиться до прози, згенерованої ШІ», – сказав Рігл Decrypt. «Вони серйозно ставляться до точних характеристик того, що надійні джерела заявляють про тему. ШІ має серйозні обмеження в цьому відношенні, такі як «галюциновані» твердження та сфабриковані джерела».

Рігл зазначив, що основні політики Вікіпедії також формують погляд редакторів на інструменти ШІ, зауваживши, що багато великих мовних моделей були навчені на вмісті Вікіпедії. У жовтні Фонд Вікімедіа заявив, що кількість відвідувань Вікіпедії людьми знизилася приблизно на 8% порівняно з минулим роком, оскільки пошукові системи та чат-боти все частіше надають відповіді безпосередньо на своїх платформах, а не відправляють користувачів на сайт.

У січні Фонд Вікімедіа оголосив про угоди з компаніями ШІ, включаючи Microsoft, Google, Amazon та Meta, дозволяючи їм використовувати матеріали Вікіпедії через свій продукт Enterprise, комерційний сервіс, призначений для широкомасштабного повторного використання її вмісту.

«Хоча використання вмісту Вікіпедії дозволено ліцензіями Вікіпедії, серед вікіпедистів все ще існує певна антипатія до сервісів, які привласнюють вміст спільнот, а потім висувають небажані вимоги до цих спільнот щодо боротьби з наслідком надлишку «ШІ-шлаку»», – сказав Рігл.

Незважаючи на заборону використання LLM, Вікіпедія дозволяє інструментам ШІ перекладати статті з інших мовних видань на англійську, за умови, що редактори перевіряють оригінальний текст. Політика також застерігає редакторів не покладатися лише на стиль написання для ідентифікації контенту, згенерованого ШІ, а замість цього зосереджуватися на тому, чи відповідає матеріал основним політикам Вікіпедії та історії редагувань учасника.

«Деякі редактори можуть мати схожий стиль написання до LLM», – йдеться в оновленні. «Для обґрунтування санкцій потрібно більше доказів, ніж просто стилістичні чи лінгвістичні ознаки, і найкраще розглядати відповідність тексту основним політикам щодо вмісту та останні редагування відповідного редактора».

Примітка редактора: Ця стаття була оновлена після публікації, щоб включити коментар від Фонду Вікімедіа.