КабинетПоиск
Безопасность ИИ

Secure Inference

Защита инференса

актуальноТекущий рабочий стандарт

Направления: Доверенный ИИ · Защита от атак, Доверенный ИИ · Приватность

Периметр вокруг работающей модели: что происходит с запросом до того, как он дойдёт до весов, и после того, как ответ получен.

Ключевые тезисы

  • Первый шаг для каждого запроса — валидация входа: типы, диапазоны, размеры и форматы проверяются до вызова модели.
  • Дальше идут аутентификация, лимиты частоты и размера запроса — они же защищают от извлечения модели перебором.
  • Ответ модели тоже проверяется: диапазон, схема, отсутствие персональных данных — прежде чем уйти клиенту.

Подробный разбор

1 подтема — объяснения, формулы, примеры и интерактивные графики.

  1. Валидация входных данных: типы, диапазоны, размеры, форматы, кодировки — до любого обращения к модели.
  2. Аутентификация и авторизация: кто спрашивает и имеет ли право на такой запрос.
  3. Лимиты: частота обращений, размер тела запроса, глубина .
  4. — только после того, как вход признан корректным.
  5. Проверка ответа: схема, диапазон, отсутствие персональных данных.
  6. Журналирование входа, ответа и версии модели — без него инцидент не разобрать.
from typing import Literal
from pydantic import BaseModel, Field, ValidationError

class Request(BaseModel):
    sensor_id: int = Field(ge=0, lt=10_000)
    window: list[float] = Field(min_length=128, max_length=128)
    mode: Literal["normal", "maintenance"]

@app.post("/predict")
def predict(raw: dict):
    try:
        req = Request.model_validate(raw)      # шаг 1: до модели
    except ValidationError as e:
        return JSONResponse({"error": e.errors()}, status_code=422)
    return {"y": model.predict(req.window)}
Схема запроса — исполняемый контракт: некорректный вход не доходит до весов
На практике

Смысл раннего отсечения не только в безопасности: неверный формат, дошедший до модели, даёт не ошибку, а правдоподобное предсказание по мусору. Это худший из возможных исходов.

Тема также относится к главам:Системный дизайн ML-сервисовЭксплуатация

Видеолекции

Тайм-кода именно на эту тему в записях нет. Но глава «Безопасность ИИ» разобрана в курсе целиком — с той оговоркой, что место в записи придётся искать самому.

Курс: Обучение с подкреплением11 записей

Связанные темы

Безопасная эксплуатация

AI Governance75%

Управление рисками ИИ · Безопасность ИИ

Процесс вокруг модели: классификация риска, документация, контроль изменений и ответственность за решения.

Reliability75%

Отказоустойчивость · Системный дизайн ML-сервисов

Что происходит, когда модель недоступна, отвечает медленно или выдаёт мусор.

Observability75%

Наблюдаемость · Системный дизайн ML-сервисов

Логи, метрики и трассировки, по которым можно восстановить, что произошло с конкретным запросом.

Monitoring75%

Мониторинг · MLOps

Наблюдение за инфраструктурой, данными и качеством предсказаний после релиза.

Data Contracts75%

Контракты данных · Инженерия данных

Явная договорённость между источником и потребителем: какие поля, каких типов и с какими гарантиями.

Следующий шагДальше по связи: AI GovernanceПроцесс вокруг модели: классификация риска, документация, контроль изменений и ответственность за решения.Перейти →
← Federated LearningPrompt Injection →

Глава «Безопасность ИИ» последний раз правилась . Нашли ошибку — напишите.