ИИ в IT: как пользоваться ChatGPT и не слить конфиденциальные данные

ИИ помогает инженеру. Но готов ли инженер безопасно его использовать?

ИИ действительно здорово изменил жизнь инженера. Айтишники сейчас постоянно используют нейросети будь ты сетевой инженер, безопасник, админ, DevOps или SOC-аналитик. У меня, например, ChatGPT и ему подобные давно уже не игрушка, а настоящая рабочая лошадка. Распутать конфиг, найти кривую строку, понять, почему что-то вдруг сломалось, сгенерировать скриптвсё это с ИИ делается в разы быстрее, чем вручную. Нет смысла тратить часы на то, что машина разберёт за секунды.

Но есть момент, о котором почти никто не думает, когда открывает чат и вставляет туда текст: а что именно ты туда отправляешь.

Дело не в том, что кто-то «не подумал»

Часто после инцидентов начинают ворчать: “Вот стажёры не подумали и слили всё.” Но тут вообще не в опыте дело. Любой, хоть джун, хоть зрелый сеньор, хочет побыстрее решить задачу. Это нормально. Всё наше ИБ на самом деле регулярно ломается не от гениев-хакеров, а потому что люди просто ищут лёгких путей. И вот тут уже не ИИ сам по себе виноват, а мы. Инженер зачем-то кидает в нейросеть то, что вообще нельзя показывать никому вне компании—только чтобы не тратить время на ручную работу.

Как это выглядит на практике

Возьмём обычную рабочую ситуацию. SOC-аналитику прилетает лог на несколько тысяч строк наадо быстро найти, где там подозрительная активность. Руками это часы работы. Логичное и понятное решение скопировать весь лог и кинуть в ИИ: «найди аномалии, покажи, где успешные логины, а где нет».

Задача решена за пару секунд. Только вместе с решением в облако ушли внутренние IP-адреса, имена серверов, домены, почты сотрудников, токены и прочая служебная информация, которая в этом логе находилась.

С сетевыми конфигами ровно то же самое. Инженер берёт running-config с Cisco, FortiGate, Palo Alto не важно какого устройства и отправляет в ИИ, чтобы быстро найти косяк в ACL или в маршрутизации. Да, пароли в конфиге могут быть зашифрованы, но по одному такому файлу можно собрать всю картину сети:

Для госструктур, банков, медицины и вообще любой организации с чувствительными данными это уже не мелкая помарка, а прямой вектор для разведки (Reconnaissance Phase).

«Да кому я вообще нужен?»
Многие до сих пор думают, что чат с нейросетью это типа личный блокнот, и никто его не увидит. Но никто со стороны не скажет точно, как эти данные хранятся, кто имеет к ним доступ, где они всплывут потом. Риски есть всегда.

И это не гипотетические страшилки. 28 июля 2026 года исследовательская команда Malwarebytes выпустила разбор реального инцидента: из-за того, как работала функция «Share» (поделиться чатом) в Claude от Anthropic, часть публично расшаренных чатов оказалась проиндексирована Google и Bing.

Люди находили в поиске ключи от криптокошельков, персональные данные, личные рабочие заметки и куски корпоративной информации. И это не первый такой случай  похожие истории уже были с Grok, Meta AI и ChatGPT.

Человек просто делился ссылкой на чат с коллегой, а эта ссылка со временем всплывала в обычном выдаче Яндекса или Google. Теперь представьте, что в таком чате висел лог SOC-аналитика или running-config с маршрутизатора банка или госоргана.

Вывод простой: ссылка на чат с ИИ  это потенциально публичная страница, и рассчитывать на её вечную приватность нельзя.

Что с этим делать

Вырубить нейросети прокси-серверами не получится. Люди всё равно обойдут запрет с личного телефона, через мобильный инет, через домашний ноутбук. Это лишь запускает лавину теневого Shadow IT.

Адекватных путей тут два: либо компания поднимает свой локальный ИИ на мощном On-Premise сервере (или использует Enterprise-контур), либо инженеры сами контролируют то, что отправляют во внешние сервисы.

Но даже если у вас поднята своя локальная нейросеть, привычка вычищать чувствительные данные никуда не девается. Главное правило остаётся прежним убирать всё лишнее ЕЩЁ ДО ТОГО, как текст ушел в окно чата.

Руками каждый раз вычищать IP-адреса, имена хостов и токены долго и муторно. На этом теряется весь смысл экономии времени. Поэтому я написал локальный инструмент на Python — Config Anonymizer.

Что он делает:

вывод таков;

Искусственный интеллект должен экономить время инженера, а не создавать работу для отдела ИБ. И тут вопрос не в том, чтобы отказаться от нейросетей — это уже нереально и не нужно. Вопрос в том, чтобы понимать, что именно ты в него отправляешь, и вычищать лишнее до того, как нажал Enter.

Код проекта открыт, берите и пользуйтесь:

https://github.com/DarkOnTheWeb/Cisco_Config_Anonimyzer

 

@AnonimUwU1337
02.08.2026 22:08 UTC
Первоисточник

Комментарии

@achekalin
02.08.2026 17:45 UTC
+1

Чатгпт, напиши клёвую статью про то, как опасно...

@nutrifit
02.08.2026 17:50 UTC
+1

Я думаю для чувствительных данных лучше использовать локальные решения или обезличенные данные. Думаю все проблемы все равно сводятся к базовым нарушениям протоколов безопасности и политиками работы с данными

@WhiteBehemoth
02.08.2026 18:33 UTC
+1

Только вместе с решением в облако ушли внутренние IP-адреса, имена серверов, домены, почты сотрудников, токены и прочая служебная информация, которая в этом логе находилась.

Писать в логи чувствительную информацию - это первопричина. Нужно решать её в первую очередь. То есть, не вычищать их, а именно не писать туда ничего секретного.

@itoolsy
03.08.2026 07:12 UTC
+1

Отличная идея. Что может пойти не так? Все. Логи как раз и придуманы, чтобы понять что где и почему пошло не так. Без детализации логи бесполезны. Как вы без адресов, например, поймете откуда и куда и что произошло? А вот выгружать их в ии-шечку с этими данными - это косяк.

03.08.2026 12:48 UTC
0

Здесь простой аргумент - если ваше решение безопасно "по дизайну" - это огромный плюс к продукту как к инженерному решению. И да, это - ограничение удобства отладки в пользу безопасности. И, кстати, не такое уж и сильное ограничение - как правило, внутренние идентификаторы можно считать безопасными - и по ним всегда можно восстановить картину происходящего.

@Andrey_Solomatin
02.08.2026 20:09 UTC
+1

У нас все иишечки запрещены, кроме иишечек которые через рабочий аккаунт. Разработчикам не надо забивать себе голову, что слать, что не слать.

@k-zet
03.08.2026 02:56 UTC
0

действительно, подскажите, а чем отличается акк иишки личного акка и корпоративного? как по мне данные утекут и там и там

03.08.2026 19:06 UTC
+1

Договором. Например ваши запросы на личном ИИ будут использоваться для обучения, а вот на корпоративном нет. У бизнеса есть требования по безопасности и все кто с бизнесом хотят работать под них подстраиваются.