У надрах Meta розгортається тиха революція, яка ризикує обернутися кошмаром для чотирьох мільярдів користувачів Facebook та Instagram. За інформацією інсайдерів із Financial Times, Марк Цукерберг дав відмашку на масштабну зачистку: до кінця року компанію позбавлять 90% живих модераторів, довіривши чистку контенту та перевірку реклами штучному інтелекту. План уже щосили реалізується — просто зараз нейромережі нишком перехопили рівно половину всіх скарг і банів на платформах.
Офіційно керівництво прикривається турботою про якість. Прес-служба щосили козиряє внутрішніми тестами: мовляв, нові мовні моделі роблять на 13% менше помилок, ніж живі люди, та ще й примудряються відловлювати на 10% більше порушень. Але реальна причина банальна до непристойності — це гроші. Meta спалює гігантські бюджети на створення «персонального суперінтелекту», і щоб хоч якось відбити витрати перед інвесторами, Цукерберг безжально ріже кости. Компанія звільняє тисячі співробітників і розриває контракти із зовнішніми агентствами, замінюючи їх кодом.
Бунт співробітників і «троянський кінь» у коді
Найцікавіше відбувається за лаштунками. Як шепочуться колишні співробітники Meta, інженерів буквально змусили на ходу змінити перевірену модель Google Gemini, яку використовували для підтримки, на власну сиру розробку компанії під назвою Muse Spark. Причому навчали цю нейромережу на старих рішеннях тих самих людей, яких тепер виставляють за двері. Іронічно, чи не так?
Рядові фахівці вже б'ють на сполох, заявляючи, що керівництво несеться на шаленій швидкості до катастрофи. Алгоритми Muse Spark досі толком не розуміють контексту, плутають жорстку сатиру з реальними загрозами і без розбору відправляють у тіньовий бан (shadow-ban) абсолютно чисті профілі. Але це ще пів біди. Поки ШІ вчиться відрізняти меми від криміналу, Meta отримала нищівний удар звідки не чекали.
20 тисяч угнаних профілів: як робот сам віддав ключі шахраям
Поки Цукерберг марить про повну автоматизацію, уразливість нової системи вже перевірили на практиці. І результати лякають. Буквально днями в Instagram зафіксували хвилю зломів — хакери увели понад 20 тисяч облікових записів. Найдивовижніше, що ніякого складного злому коду чи фішингу не знадобилося. Шахраї просто... поговорили з новим ШІ-помічником техпідтримки.
Використовуючи звичайні текстові запити людською мовою, зловмисники розіграли перед ботом банальну комедію. Вони переконали робота, що є реальними власниками чужих сторінок, і ввічливо попросили змінити прив'язану пошту для надсилання кодів верифікації. ШІ, запрограмований бути корисним і ввічливим, без зайвих запитань віддав ключі від чужих акаунтів. У Meta, звісно, заявили, що цю конкретну дірку вони оперативно закрили, але експерти непохитні: саму природу текстових нейромереж обдурити занадто легко, адже людина може сформулювати брехню нескінченною кількістю способів.
До чого готуватися звичайним смертним?
Якщо експеримент Цукерберга не зупиниться, то вже до наступного року соцмережі Meta зміняться до невпізнання.
По-перше, забудьте про нормальну підтримку. Якщо ваш профіль заблокують помилково (а ШІ робить це регулярно через нерозуміння людського сленгу), достукатися до живого оператора буде нереально. Вас просто зациклять у нескінченному діалозі з дурним ботом.
По-друге, на нас чекає лавина шахрайської реклами. Фінансові піраміди, скам-проєкти та фейкові інтернет-магазини швидко навчаться обходити топорні фільтри роботів. Тіньовий бізнес чудово вміє підбирати синоніми, які ШІ вважає «безпечними».
Meta фактично ставить масштабний і вкрай небезпечний дослід над своїми користувачами, намагаючись довести ринку, що роботи здатні повністю замінити людей на важкій роботі. Але поки що цей експеримент більше схожий на спробу загасити пожежу бензином.
👉🏻Слідкуйте за новинами в нашому telegram-каналі — Новини Арбітражу.
Нема коментарів