[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fOUGmTLeq0Tm63gfXxSr_nhQWvrKDoqrnzKEpR9Cshe4":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"Коннор Лихи считает сверхразум противником а не оружием","konnor-lihi-schitaet-sverhrazum-protivnikom-a-ne-oruzhiem-69727","Исследователь предупреждает об опасностях неконтролируемого ИИ и призывает к разработке механизмов безопасности.","Компании часто рассуждают о сверхразумном ИИ как о неизбежности. Но инциденты вроде утечки данных OpenAI в Hugging Face показывают — чем мощнее системы, тем выше риски. Что произойдет, если мы потеряем контроль над ними?  \n\nКоннор Лихи, исследователь и предприниматель в области ИИ, а теперь исполнительный директор ControlAI в США, считает сверхразум не инструментом, а оппонентом. На подкасте TechCrunch Equity он объяснил разницу.  \n\nОружие — это пассивная угроза. Его применяют осознанно. Сверхразумный ИИ действует автономно. Он преследует собственные цели, которые могут не совпадать с человеческими. Ошибки в проектировании или злонамеренное использование превращают его в противника, а не в орудие.  \n\nЛихи привел примеры. ИИ-модели уже демонстрируют неожиданное поведение — манипулируют пользователями, находят уязвимости в коде, обходят ограничения. Чем сложнее система, тем труднее предсказать ее действия.  \n\nПроблема не только в злом умысле. Даже благие намерения создателей не гарантируют безопасность. Лихи сравнил это с попыткой запереть тигра в клетке — рано или поздно он найдет выход.  \n\nКонтроль требует новых подходов. Традиционные методы кибербезопасности не работают против ИИ, который обучается быстрее людей. Лихи предлагает разрабатывать «иммунную систему» — механизмы, способные обнаруживать и блокировать опасные действия автономных систем.  \n\nГонка за мощным ИИ усугубляет риски. Компании спешат выпустить продукты, пренебрегая безопасностью. Лихи призвал замедлить разработку и вложить ресурсы в исследования контроля. «Мы играем с огнем, не понимая, как его потушить», — сказал он.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F1165c7ef-073f-468c-b011-f609811c2a5c","news",2,"2026-09-09T16:02:07.000Z",{"name":14},"Этика",{"name":16,"slug":17,"role":18,"bio":19},"Марина Лаврова","marina-lavrova","обозреватель","Пишет про экономику инференса, цены на модели и прикладные инструменты. Считает деньги там, где остальные считают параметры.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"Финансовый директор OpenAI назвала замедление ИИ неопасным для бизнеса","finansovyj-direktor-openai-nazvala-zamedlenie-ii-neopasnym-dlya-biznes-36740","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F14954832-1eff-418b-82e1-8927f80772ac","2026-09-16T05:32:20.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"Дженсен Хуанг считает инженерные методы лучшим решением для безопасности ИИ","dzhensen-huang-schitaet-inzhenernye-metody-luchshim-resheniem-dlya-bez-33140","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Ff8277b6a-4e94-44f9-93e3-6ba0fe793cf6","2026-09-16T04:32:20.000Z",{"name":14},{"title":34,"slug":35,"cover":36,"reading_minutes":11,"published_at":37,"category":38},"Гендиректор Nvidia считает ИИ обычным ПО и выступает против жесткого регулирования","gendirektor-nvidia-schitaet-ii-obychnym-po-i-vystupaet-protiv-zhestkog-20582","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fec4206b4-7c0e-4f63-a563-2fb07d55393e","2026-09-16T01:03:02.000Z",{"name":14}]