1 год тому
Генеральний директор Anthropic пропонує уповільнити розвиток передових моделей ШІ
CoinDesk повідомляє, що генеральний директор Anthropic Даріо Амодеї опублікував допис у блозі, де закликав пригальмувати темпи зростання можливостей так званих frontier-моделей ШІ та окреслив три напрями, які, на його думку, мають супроводжувати подальший прогрес. Дискусія про безпеку ШІ знову загострилася на тлі стрімкого підвищення спроможностей моделей і активнішого обговорення індустрією інструментів зниження ризиків.
Перший крок, який пропонує Амодеї, — залучити незалежні сторонні організації, що розміщуватимуть "оцінювачів на місці" в компаніях-розробниках ШІ. Їхнє завдання — перевіряти виконання наявних зобов'язань щодо безпеки та контролювати, чи інциденти належно й оперативно фіксуються та повідомляються. За словами Амодеї, модель можна організувати через зовнішні структури на кшталт METR. Такі фахівці отримуватимуть бейджі компанії, робочі місця та комп'ютери, а рівень доступу загалом буде порівнянним із внутрішніми командами з оцінки ризиків, хоча можливі винятки через юридичні або контрактні обмеження. Anthropic, як зазначено в тексті, готова запустити підхід в односторонньому порядку та закликає владу зобов'язати інших провідних гравців діяти так само.
Другий напрям — координація між провідними ШІ-компаніями з "демократичних країн" для вироблення спільних стандартів безпеки та стримування неконтрольованого нарощування можливостей. Амодеї вважає, що найкраще такий діалог може модерувати уряд США або щонайменше підтримати його через обмежені винятки з антимонопольних правил. Він визнає, що конкуренція між лідерами ринку загострена, відносини між компаніями напружені, а прямі розмови про синхронне уповільнення R&D можуть привернути увагу регуляторів. Тому роль держави, на його погляд, — не обов'язково безпосередньо керувати процесом, а створити безпечні умови для обміну позиціями щодо конкретних питань безпеки.
Окремо Амодеї відповів на поширене заперечення, що будь-яке уповільнення дасть Китаю шанс наздогнати США. Він стверджує: якщо уряд США та технологічні компанії й надалі обмежуватимуть постачання до Китаю високопродуктивних чипів і обладнання для виробництва напівпровідників, а також протидіятимуть практикам на кшталт distillation моделей, Сполучені Штати можуть збільшити відрив упродовж наступних трьох-п'яти років. На цьому тлі він запропонував третій напрям — обмежену координацію на глобальному рівні. Йдеться про взаємодію США та союзників із авторитарними урядами, включно зі співпрацею з Китаєм, не для повного узгодження позицій, а для досягнення домовленостей щодо кількох найризикованіших застосувань, зокрема обмеження використання ШІ в розробці біологічної зброї.
Занепокоєння безпекою в секторі посилюється. Ще до публікації цього матеріалу Anthropic привертала увагу через публічну критику ризиків ШІ з боку частини власних дослідників. Амодеї не коментував у дописі конкретні звільнення, але назвав два фактори, які підштовхнули його до більш обережної лінії: інциденти з безпекою, пов'язані з OpenAI та Hugging Face, а також різке прискорення прогресу в здатності ШІ створювати "наступне покоління" ШІ за останні місяці.
Підхід Амодеї отримує критику з двох боків. Прихильники прискорення розвитку вважають, що він надмірно акцентує на довгострокових катастрофічних ризиках, підживлюючи самоуспокоєння індустрії. Інші опоненти стверджують, що риторика безпеки може стати приводом для лідерів ринку закріпити домінування, ігноруючи проблеми, які ШІ вже створює в реальному світі. Сам Амодеї підкреслює, що й надалі бачить потенціал ШІ суттєво поліпшити якість життя, якщо рухатися обережніше та використати виграний час для реального посилення безпеки.