В недрах Meta разворачивается тихая революция, которая рискует обернуться кошмаром для четырех миллиардов пользователей Facebook и Instagram. По информации инсайдеров из Financial Times, Марк Цукерберг дал отмашку на масштабную зачистку: до конца года компанию избавят от 90% живых модераторов, доверив чистку контента и проверку рекламы искусственному интеллекту. План уже вовсю реализуется — прямо сейчас нейросети втихаря перехватили ровно половину всех жалоб и банов на платформах.
Официально руководство прикрывается заботой о качестве. Пресс-служба вовсю козыряет внутренними тестами: мол, новые языковые модели делают на 13% меньше ошибок, чем живые люди, да еще и умудряются отлавливать на 10% больше нарушений. Но реальная причина банальна до неприличия — это деньги. Meta сжигает гигантские бюджеты на создание «персонального суперинтеллекта», и чтобы хоть как-то отбить расходы перед инвесторами, Цукерберг безжалостно режет косты. Компания увольняет тысячи сотрудников и разрывает контракты с внешними агентствами, заменяя их кодом.
Бунт сотрудников и «троянский конь» в коде
Самое интересное происходит за кулисами. Как шепчутся бывшие сотрудники Meta, инженеров буквально заставили на ходу сменить проверенную модель Google Gemini, которую использовали для поддержки, на собственную сырую разработку компании под названием Muse Spark. Причем обучали эту нейросеть на старых решениях тех самых людей, которых теперь выставляют за дверь. Иронично, не правда ли?
Рядовые специалисты уже бьют тревогу, заявляя, что руководство несется на бешеной скорости к катастрофе. Алгоритмы Muse Spark до сих пор толком не понимают контекст, путают жесткую сатиру с реальными угрозами и без разбора отправляют в теневой бан (shadow-ban) абсолютно чистые профили. Но это еще полбеды. Пока ИИ учится отличать mемы от криминала, Meta получила сокрушительный удар откуда не ждали.
20 тысяч угнанных профилей: как робот сам отдал ключи мошенникам
Пока Цукерберг грезит о полной автоматизации, уязвимость новой системы уже проверили на практике. И результаты пугают. Буквально на днях в Instagram зафиксировали волну взломов — хакеры увели более 20 тысяч учетных записей. Самое смешное, что никакого сложного взлома кода или фишинга не потребовалось. Мошенники просто... поговорили с новым ИИ-помощником техподдержки.
Используя обычные текстовые запросы на человеческом языке, злоумышленники разыграли перед ботом банальную комедию. Они убедили робота, что являются реальными владельцами чужих страниц, и вежливо попросили сменить привязанную почту для отправки кодов верификации. ИИ, запрограммированный быть полезным и вежливым, без лишних вопросов отдал ключи от чужих аккаунтов. В Meta, конечно, заявили, что эту конкретную дыру они оперативно заделали, но эксперты непреклонны: саму природу текстовых нейросетей обмануть слишком легко, ведь человек может сформулировать ложь бесконечным количеством способов.
К чему готовиться обычным смертным?
Если эксперимент Цукерберга не остановится, то уже к следующему году соцсети Meta изменятся до неузнаваемости.
Во-первых, забудьте о нормальной поддержке. Если ваш профиль заблокируют по ошибке (а ИИ делает это регулярно из-за непонимания человеческого сленга), достучаться до живого оператора будет нереально. Вас просто зациклят в бесконечном диалоге с глупым ботом.
Во-вторых, нас ждет лавина мошеннической рекламы. Финансовые пирамиды, скам-проекты и фейковые интернет-магазины быстро научатся обходить топорные фильтры роботов. Теневой бизнес отлично умеет подбирать синонимы, которые ИИ считает «безопасными».
Meta фактически ставит масштабный и крайне опасный опыт над своими пользователями, пытаясь доказать рынку, что роботы способны полностью заменить людей на тяжелой работе. Но пока что этот эксперимент больше похож на попытку потушить пожар бензином.
👉🏻Следите за новостями в нашем telegram-канале — Новости Арбитража.
Нет комментариев.