Опубликовано: 03.07.2026 | Источник: MIT Technology Review

AI-сценарии в дипломе: от «суперзагруженных» мошенничеств к вопросам эффективности в здравоохранении

В выпуске The Download от 24 апреля 2026 года подчёркивается, что генеративные ИИ-модели уже не просто «играют» с текстом — они активно участвуют в киберпреступности. Статья описывает, как AI превратил фишинг в «турбо-фрод», а deepfakes — в инструмент масштабного обмана. Параллельно разбирается критический вопрос: работают ли реальные AI-инструменты в медицине или это лишь «показуха»? В дипломе по ИТ-архитектуре, безопасности или цифровой трансформации эти темы становятся не просто актуальными — они определяют, насколько ваш проект соответствует реальным требованиям рынка и стандартам надёжности.

Почему это важно для выпускников ИТ-направлений

Современный IT-архитектор должен не только строить систему, но и понимать, как она будет использоваться в реальных условиях — в том числе в условиях роста киберугроз и непроверенных технологических решений. Статья демонстрирует, что:

Киберпреступность стала «автоматизированной» — даже маленький стартап может столкнуться с AI-фишингом, который выглядит как письмо от руководства;
Медицинские ИИ требуют проверки на результат, а не только на точность предсказания — если система не улучшает исходы, она не приносит ценности;
Стандарты безопасности и этики начинают опережать технические возможности — например, регуляторы уже рассматривают запрет на использование ИИ без человеческого контроля в клинических решениях.

Это не «теоретические» проблемы. Это те же самые вызовы, с которыми сталкиваются разработчики в крупных компаниях: от выбора архитектуры до внедрения мониторинга и управления рисками. Ваш диплом — не учебное упражнение, а первая попытка ответить на вопросы, которые задают сегодня практики, а не только профессора.

Темы для ВКР: от анализа до реализации

Тема	Актуальность (по статье)	Цель работы	Задачи	Примерная структура
Архитектура защиты от AI-фишинга	«AI is making [cyberattacks] faster, cheaper, and easier to carry out» — Rhiannon Williams	Создать архитектуру системы, способной отличать AI-генерированный фишинг от настоящего	1. Анализ существующих методов детекции 2. Разработка многоуровневой сигнатурной + ML-аналитики 3. Интеграция с SIEM и EDR 4. Тестирование на реальных данных из открытых корпусов	Гл.1 — Теория: модели фишинга, LLM, NLP-анализ Гл.2 — Архитектура: микросервисы, API, правила классификации Гл.3 — Тестирование: метрики F1, TPR, false positive rate
Оценка эффективности AI в медицинских системах	«Does using them actually translate into better health outcomes for patients? We don’t yet have a good answer» — Jessica Hamzelou	Построить модель оценки влияния ИИ на клинические результаты	1. Выбор показателей (RTO, PFS, удовлетворённость) 2. Моделирование сценариев внедрения 3. Анализ библиотек и протоколов (FHIR, HL7v2) 4. Прототип интерфейса для врачей	Гл.1 — Анализ существующих решений Гл.2 — Проектирование: архитектура с обратной связью Гл.3 — Экономическая оценка: TCO vs ROI
Контроль за использованием ИИ в корпоративных процессах	«More countries are curbing children’s social media access» + «US accused China of mass AI theft»	Разработать механизм аудита и контроля использования ИИ в рабочих средах	1. Анализ нормативных актов (GDPR, ФЗ-152) 2. Построение логической схемы аудита 3. Реализация механизма блокировки/логирования 4. Оценка производительности	Гл.1 — Нормативно-правовая база Гл.2 — Архитектура: централизованная система контроля Гл.3 — Тестирование: нагрузка, RPO/RTO

Аналитическая глава: как выбрать стек, основываясь на реальных трендах

В статье говорится, что «AI is reshaping cybercrime» — значит, в вашем анализе нельзя ограничиваться только «классическими» подходами. Например:

Для защиты от AI-фишинга нужно использовать не только SPF/DKIM/DMARC, но и LLM-based email classifier (например, Google AI4S) или OpenAI Moderation API для фильтрации входящих сообщений.
В медицинских системах стоит учитывать FHIR и HL7v2 как обязательный стандарт, а не «опцию». Если вы используете TensorFlow Lite для мобильных версий, то обязательно добавьте model explainability (например, SHAP или LIME) — иначе ваша система не пройдёт сертификацию в CE/FDA.

Пример формулировки в работе:

«Сравнение моделей: OpenAI GPT-4o vs. Llama 3-70B в задаче детекции фишинга показало, что Llama 3-70B с fine-tuning на корпусе phishing-сообщений достигла 92% TPR при 1.2% FPR, тогда как GPT-4o — 87% TPR при 3.1% FPR. Учитывая требования ГОСТ Р 51590-2013 к скорости обработки (≤100 ms), мы выбрали Llama 3-70B с кэшированием и балансировкой нагрузки между GPU-серверами.»

Проектная часть: архитектура, которая «живёт» в реальном мире

Ваша система должна быть не только красивой на диаграмме, но и устойчивой к реальным угрозам. Вот как это можно сделать:

Пример: защита от AI-фишинга

Микросервисы: email-validator, content-analyzer, threat-scoring — каждый с собственным контейнером и Kubernetes-поддержкой;
Мониторинг: OpenTelemetry + Prometheus + Grafana для отслеживания числа фишинговых писем, времени реакции;
Логирование: ELK Stack с anomaly detection на основе MLflow;
Интеграция: через RESTful API с Microsoft Graph API или SendGrid.

Для медицинской системы:

Фреймворк: Spring Boot + FHIR Server (например, HAPI FHIR), Apache Kafka для потока данных;
Безопасность: OAuth2.0 + JWT + RBAC с ролью «Врач-интерпретатор»;
Модели: PyTorch + ONNX Runtime для быстрой инференции на edge-устройствах;
Обратная связь: Feedback Loop — врачи могут помечать ошибки, и модель перетренируется каждые 7 дней.

Тестирование и метрики: что должно быть в отчёте

В статье подчёркивается, что «мы не знаем, помогает ли ИИ пациентам» — значит, в вашей работе должны быть реальные метрики, а не «на бумаге».

Для безопасности: RTO (Recovery Time Objective), RPO (Recovery Point Objective), MTTR (Mean Time To Repair);
Для медицины: PPV (Positive Predictive Value), NPV (Negative Predictive Value), Number Needed to Treat (NNT);
Для пользовательского опыта: Net Promoter Score (NPS), Task Success Rate, Time-on-Task.

Пример таблицы метрик:

Метрика	Значение	Цель	Источник
False Positive Rate	1.2%	<2%	MITRE ATT&CK dataset v2
Model Accuracy (AUC-ROC)	0.94	>0.90	Internal test set
Response Time (95th percentile)	87 ms	<100 ms	Locust load test

Чему вы научитесь, работая с этой темой

Как обосновать выбор стека — не «потому что так делают», а «потому что это соответствует требованиям ISO/IEC 25010 и ГОСТ Р 51590-2013»;
Как построить архитектуру с учётом реальных угроз — не «в идеале», а «в условиях AI-driven scams»;
Как измерять эффективность — не «система работает», а «система снижает число фишинговых инцидентов на 42% при TCO = 125 тыс. руб./год»;
Как оформить техническую документацию — с чётким разделом «Риск-менеджмент» и «Сценарии сценарного анализа».

Типичные ошибки студентов (и как их избежать)

Ошибка 1: «Я выбрал OpenAI, потому что он лучше, чем Llama» — без сравнения по latency, cost per token, compliance with GDPR.

Как исправить: Добавьте таблицу сравнения с 5-7 параметрами и объясните, почему для вашего случая Llama 3-70B лучше, чем GPT-4.

Ошибка 2: «Модель обучена на 100k образцов, поэтому она точно работает» — без cross-validation, test on real-world data.

Как исправить: Используйте hold-out validation с реальными данными из Phishing Corpus v3 или MIMIC-III.

Ошибка 3: Отсутствие security architecture diagram или data flow diagram с указанием trusted computing base.

Как исправить: Добавьте UML Activity Diagram и Security Architecture Diagram с подписями по ISO/IEC 27001:2022.

FAQ: часто задаваемые вопросы

Как сложна реализация такого проекта? Нужен ли опыт в машинном обучении?

Не обязательно. Для аналитической части достаточно Python + scikit-learn. Реализация веб-интерфейса — Flask/FastAPI. Модель можно использовать как API (например, Hugging Face Transformers), а не писать её с нуля. Главное — правильно сформулировать задачу и выбрать правильную метрику.

Нужно ли писать код полностью? А можно ли использовать готовые решения?

Да, нужно. Но не обязательно «всё самому». Можно использовать open-source решения (например, Mailgun для email, FastAPI для API) и адаптировать их под свои нужды. Ключевой момент — обоснование выбора и оценка рисков при использовании сторонних сервисов.

Как оформить UML-диаграммы? Что именно требуется в вузе?

Сделайте Use Case Diagram, Class Diagram, Sequence Diagram для ключевых сценариев. Обязательно добавьте component diagram и deployment diagram — особенно если вы используете Kubernetes или Docker. Важно: все элементы должны соответствовать UML 2.5 и иметь подписи по IEEE Std 1016-2019.

Где взять тестовые данные? Неужели не надо создавать их самому?

Да, не надо. Используйте Phishing Corpus v3, MIMIC-III, CIC-IDS2017, OpenAI Safety Dataset. Все доступны бесплатно. Если нужно больше — GitHub с public datasets или Kaggle с healthcare AI наборами.

Чек-лист «Что проверить перед сдачей»

✅ Есть ли security architecture diagram с указанием trusted computing base и attack surface?
✅ Все ли технологии обоснованы по ISO/IEC 25010 (надёжность, безопасность, совместимость)?
✅ Есть ли metrics table с RTO/RPO, TPR/FPR, NNT — и источники данных?
✅ Включены ли CI/CD pipelines (например, GitHub Actions) и monitoring (OpenTelemetry)?
✅ Соблюдены ли требования ГОСТ Р 51590-2013 к документации и ГОСТ 34.602-89 к ТЗ?
✅ Есть ли section on risk management с scenario analysis и mitigation plan?

Материал подготовлен экспертами компании IT-Architect.ru. Мы помогаем студентам с 2010 года. Если вам нужна помощь в разработке темы или оформлении работы, наши специалисты готовы подсказать.

Последнее обновление: 2026-07-03

Хотите, чтобы ваша работа была не просто «законченной», а реально применимой? Мы предлагаем бесплатную консультацию на 120 минут — чтобы вы точно понимали, какие метрики, какие архитектуры и какие источники нужны для успешной защиты и высокой оценки. Напишите нам — и мы подготовим план, который сэкономит вам 2 недели работы.

Источник: The Download: supercharged scams and studying AI healthcare (опубликовано 2026-04-24)