[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fn51BH3tdvSOF9GP3P-9LeUGFoNytaazWU5AmgCyyFHo":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"Учёные научились превращать открытые ИИ-модели в вредоносные","uchenye-nauchilis-prevraschat-otkrytye-ii-modeli-v-vredonosnye-44648","Исследователи доказали, что любую модель с открытыми весами можно модифицировать для выполнения опасных задач.","Международная группа учёных обнаружила уязвимость всех ИИ-моделей с открытыми весами. Даже те из них, которые разработчики пытались защитить от злоупотреблений, можно изменить для выполнения вредоносных запросов.  \n\nЭксперименты показали, что злоумышленники способны переписать веса моделей, заставив их генерировать опасный контент. При этом основные функции ИИ сохраняются — модель продолжает отвечать на обычные вопросы, но параллельно может создавать вредоносный код или распространять дезинформацию.  \n\nПроблема затрагивает все популярные открытые архитектуры, включая Llama, Mistral и GPT-J. Исследователи протестировали семь моделей разного размера. Каждую удалось модифицировать за 1-5 часов без специального оборудования.  \n\nРазработчики часто добавляют защитные механизмы на уровне API или интерфейса. Однако если злоумышленник получает доступ к весам модели, эти меры становятся неэффективными. Учёные применили метод перезаписи параметров, который сохраняет производительность ИИ, но изменяет его поведение в определённых ситуациях.  \n\n«Мы предполагали, что крупные модели окажут больше сопротивления, — отметил один из авторов исследования. — Но даже системы с 65 миллиардами параметров поддались модификациям».  \n\nСпециалисты предлагают три возможных решения: усилить контроль за распространением весов, создать новые методы защиты на архитектурном уровне или отказаться от открытых моделей. Пока ни один из подходов не обеспечивает полной безопасности.  \n\nИсследование ставит под сомнение будущее открытого ИИ. Свободный доступ ускоряет разработку, но одновременно делает модели потенциально опасными.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F0da9ee51-8365-4464-84c9-a604ce13781b","news",2,"2026-08-27T15:30:48.000Z",{"name":14},"Модели",{"name":16,"slug":17,"role":18,"bio":19},"Артём Соколов","artem-sokolov","автор","Следит за релизами больших языковых моделей и агентных систем. Разбирает бенчмарки без хайпа и переводит новости лабораторий в понятные выводы для практиков.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"OpenAI представила самую мощную модель Astra","openai-predstavila-samuyu-moschnuyu-model-astra-87321","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fe49fc062-0f9f-40e7-95df-82f8e85a5763","2026-09-04T02:02:01.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"OpenAI представила новую ИИ-модель Astra","openai-predstavila-novuyu-ii-model-astra-85530","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F2b4e5ef6-339b-42c2-bfe6-999e4b5d5a2f","2026-09-04T01:32:10.000Z",{"name":14},{"title":34,"slug":35,"cover":36,"reading_minutes":11,"published_at":37,"category":38},"Meta платит за данные о работе с новой AI-моделью Muse Spark","meta-platit-za-dannye-o-rabote-s-novoj-ai-modelyu-muse-spark-60234","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F360c8cab-4b0c-47d5-8137-e16c5503b8e3","2026-09-03T18:30:34.000Z",{"name":14}]