Умнее хакеров: как защититься от атак с использованием искусственного интеллекта?
OpenAI заблокировала аккаунты северокорейских хакеров, которые использовали ChatGPT для планирования кибератак. Руководитель лаборатории исследований кибербезопасности аналитического центра кибербезопасности компании «Газинформсервис» Вадим Матвиенко предупреждает об усилении киберугроз, связанных с использованием больших языковых моделей, таких как ChatGPT, злоумышленниками. По его словам, преступники всё чаще применяют ИИ для своих целей, что требует немедленного повышения бдительности и укрепления систем безопасности.
«Большие языковые модели — мощный инструмент», — комментирует Вадим Матвиенко. — «Он широко используется в различных областях интеллектуальной деятельности. К сожалению, злоумышленники также используют ИИ в своих целях, и эта тенденция, по прогнозам, будет только усиливаться. Хорошей новостью для сферы кибербезопасности стало сообщение о том, что компания OpenAI ведёт активную работу по выявлению злоумышленников. Это свидетельствует о том, что внимание к вопросам безопасности не ослабевает».
Эксперт отмечает, что защита от атак с использованием ИИ требует комплексного подхода, сочетающего обновление защитных мер и внедрение специализированных решений для контроля и анализа активности: «Обеспечение защиты ИИ, включая MLSecOPS, представляет собой сложный и трудоёмкий процесс. Однако современные средства автоматизации, такие как SafeERP, помогают значительно ускорить процессы проверки безопасности ИИ».
Исследователь безопасности обнаружил критическую уязвимость в веб-приложении, которая позволила ему, имея учётную запись обычного пользователя, получить полный контроль над административной панелью. Эксплойт был основан на комбинации нескольких ошибок: отсутствии подтверждения email, слабом контроле доступа к административным функциям и возможности редактирования чужих профилей без повторной аутентификации.
Телефонные мошенники разработали новую схему обмана, нацеленную на детей, сдающих ЕГЭ и ОГЭ. Злоумышленники сообщают школьникам о якобы непройденной регистрации на образовательном сервисе и угрожают недопуском к экзаменам. Под предлогом решения проблемы они отправляют фишинговые ссылки, переходя по которым дети теряют деньги. Об этом сообщил ТАСС старший оперуполномоченный УБК МВД России Илья Елясов.
С сегодняшнего дня вступает в силу действие поправок в КоАП РФ об оборотных штрафах вследствие повторно допущенной утечки персональных данных из организации. В то же время Роскомнадзор опубликовал статистику российских инцидентов с утечками: в ведомстве зафиксировали 30 утечек данных. Общий объём скомпрометированных данных составил 38 млн строк.
Современные рекомендательные системы часто отстают от динамично меняющихся предпочтений пользователей. На «ТелеМультиМедиа Форуме 2025» Ирина Меженева, ведущий инженер-аналитик лаборатории топологического анализа данных и искусственного интеллекта аналитического центра кибербезопасности компании «Газинформсервис», рассказала об инновационном подходе к созданию рекомендательных систем, способных «понимать» пользователей и предсказывать их интересы.
23 мая на пресс-конференции в рамках международного киберфестиваля Positive Hack Days 2025 (PHDays 2025) компания «Газинформсервис» представила новую разработку в сфере кибербезопасности и рассказала об успехах своего центра мониторинга и реагирования GSOC, запущенного ровно год назад на этом же мероприятии. Николай Нашивочников, технический директор компании, остановился на ключевых достижениях GSOC и анонсировал новый продукт.
Эхтешам Уль Хак, аналитик по кибербезопасности из Пакистана, обнаружил уязвимость в веб-приложении, позволяющую обойти аутентификацию на основе одноразовых паролей (OTP), и заработал на этом $650. Михаил Спицын, киберэксперт лаборатории стратегического развития продуктов кибербезопасности компании «Газинформсервис», подчёркивает, что этот случай демонстрирует необходимость комплексной защиты, особенно при использовании OTP.
В российском корпоративном секторе после новости о возвращении операционной системы Windows ряд организаций принимает решение вернуться к привычной платформе. Как заключает киберэксперт, менеджер продукта «Блокхост-Сеть 4» компании «Газинформсервис» Константин Хитрово, это создаёт новые вызовы для обеспечения информационной безопасности.
