---
schemaVersion: 1
scope: "public-indexable-html"
renderScope: "server-rendered-main"
canonical: "https://isafwan.com/ru/lectures/cybersecurity/"
companion: "https://isafwan.com/agent/ru/lectures/cybersecurity/index.md"
locale: "ru"
language: "ru"
direction: "ltr"
title: "Доверие — это инфраструктура | Safwan AlModhayan"
description: "Пользователь попросил проверить счёт и ничего не отправлять. Личность и доступ были верны — действие оказалось неверным."
---
## Language versions
- [ar-SA](https://isafwan.com/ar/lectures/cybersecurity/)
- [en](https://isafwan.com/en/lectures/cybersecurity/)
- [ru](https://isafwan.com/ru/lectures/cybersecurity/)
- [x-default](https://isafwan.com/ar/lectures/cybersecurity/)
- [zh-CN](https://isafwan.com/zh-CN/lectures/cybersecurity/)
[Safwan AlModhayan](https://isafwan.com/ru/)[Вернуться к лекциям](https://isafwan.com/ru/lectures/)Редакционное предложение
Архитектура полномочий в интеллектуальных системах
# Доверие — это инфраструктура
Правильная личность ещё не доказывает, что системе позволено совершить правильное действие.
[С чего начинается история](https://isafwan.com/ru/lectures/cybersecurity/#world-opening)
> Каждое действие с серьёзными последствиями нуждается в двух доказательствах: почему система выбрала его и почему имела право его совершить.
**В этом путешествии**
[Счёт, который нельзя было отправлять](https://isafwan.com/ru/lectures/cybersecurity/#world-opening)[Главный вопрос](https://isafwan.com/ru/lectures/cybersecurity/#lecture-question)[Почему правильной личности недостаточно](https://isafwan.com/ru/lectures/cybersecurity/#world-chapter-identity-authority)[Как влияние превращается в операцию](https://isafwan.com/ru/lectures/cybersecurity/#world-chapter-agent-case)[Два доказательства действия](https://isafwan.com/ru/lectures/cybersecurity/#world-chapter-signature)[Исследуйте идею](https://isafwan.com/ru/lectures/cybersecurity/#world-experiment)[Вопросы, за которыми открывается больше](https://isafwan.com/ru/lectures/cybersecurity/#world-questions)[Книжная полка идеи](https://isafwan.com/ru/lectures/cybersecurity/#world-reading-list)[Уточнить контекст приглашения](https://isafwan.com/ru/lectures/cybersecurity/#session)
С чего начинается история
## Счёт, который нельзя было отправлять
Пользователь пишет интеллектуальному агенту: «Проверь счёт. Ничего не отправляй». Система распознаёт пользователя, применяет действительные учётные данные, открывает разрешённый инструмент — и отправляет счёт. Личность верна. Доступ действителен. Действие ошибочно.
Эта короткая сцена меняет отправную точку разговора о безопасности. Вопрос уже не исчерпывается тем, кто вошёл в систему. Нужно понять, кто или что повлияло на выбор операции, кому принадлежали полномочия и почему право прочитать документ вдруг стало способностью исполнить содержащуюся в нём инструкцию.
Страница развивается как расследование вычислительной власти. Мы идём от аутентификации и минимальных привилегий к агенту, который интерпретирует намерение, выбирает инструмент и может перестроить план во время выполнения.
Главный вопрос
## Кому или чему ваша система доверяет, сама того не замечая?
## Почему правильной личности недостаточно
Аутентификация отвечает на вопрос, кто обращается к системе. Авторизация определяет, что этому участнику позволено сделать. Делегирование добавляет ещё один слой: кто передал право, для какой работы и можно ли передать его дальше. Эти различия знакомы информатике десятилетиями, но интеллектуальные системы делают их видимыми широкой аудитории.
Полезно мыслить не ролью вообще, а конкретной связью: субъект, задача, ресурс, время и допустимое действие. Такая связь помогает увидеть, почему доступ к календарю для поиска свободного окна не равен праву читать все вложения или отправлять сообщения без проверки.
## Как влияние превращается в операцию
Гипотетический помощник получает цель — организовать встречу. Он читает календарь, находит участников, использует почту и выбирает время. Затем в одном из документов встречает текст, похожий на инструкцию, хотя документ не должен управлять его поведением. Для расследования важен не эффектный сценарий атаки, а цепочка решений: почему система признала текст командой, каким инструментом воспользовалась и где могла остановиться.
Так безопасность соединяется с архитектурой приложений, управлением идентификацией, цепочкой поставок программ и устойчивостью. Хорошая защита не только блокирует нежелательное; она сохраняет полезную работу при отказе, изменении контекста или недоступности одного из компонентов.
## Два доказательства действия
«Два доказательства действия» \(Two Proofs of Action\) — авторская редакционная рамка этой лекции. Первое доказательство объясняет выбор: какие данные, память, поиск, контекст и вывод привели систему к операции. Второе объясняет полномочие: какой принципал делегировал право, для какой задачи, в каком диапазоне и до какого момента.
Одно доказательство не заменяет другое. Система может превосходно объяснить решение, не имея права его исполнять; она может обладать законной властью и неверно понять просьбу. Поэтому доверие проектируется как ограниченная, привязанная к задаче, отзывная и проверяемая власть — а не как общий призыв к агенту быть осторожным.
Исследуйте идею
## Проведите аудит одного действия
Разберите сцену со счётом по четырём слоям и отделите доказательство решения от доказательства полномочия.
### Что увидела система?
Отделите просьбу пользователя от документов, писем и других влияний внутри задачи.
**Все стороны идеи**
1. ### Что увидела система?
Отделите просьбу пользователя от документов, писем и других влияний внутри задачи.
2. ### Почему выбрано это действие?
Проследите данные, память, поиск и вывод, которые направили выбор операции.
3. ### Почему действие разрешено?
Проверьте принципала, делегирование, область, срок и возможность отзыва.
4. ### Совпали ли два доказательства?
Разрешайте значимое действие только там, где и решение, и власть выдерживают проверку.
Условный пример для исследования
Грани идеи
## Вопросы, за которыми открывается больше
**Как система может быть надёжно опознана, но ненадёжна в действии?**
Подлинная личность подтверждает участника, но не уместность каждого поступка. Действие нужно соотнести с задачей, ресурсом, временем и текущими условиями.
**Не делают ли ограничения интеллектуальную систему менее полезной?**
Точные границы обычно повышают полезность: внутри них система может действовать увереннее, а редкие и значимые исключения передавать человеку.
**Что изменилось с появлением программных агентов?**
Между человеческой целью и выполненным действием появилась область выбора: система интерпретирует задачу, подбирает инструменты и перестраивает план. Именно эту область нужно проектировать и наблюдать.
**Что именно доказывают «два доказательства действия»?**
Первое восстанавливает входные данные, память, поиск и выбор инструмента; второе проверяет, кто делегировал право, для какой задачи, в каком объёме и до какого срока. Вместе они показывают, где именно решение или полномочие перестали соответствовать просьбе.
Что останется после встречи
## Любопытство за пределами зала
Проверяйте полномочие, а не только личность. В каждом умном действии ищите отдельно историю решения и историю права действовать.
1. Различать подтверждение идентичности, полномочия и корректность поведения.
2. Определять вопросы, которые нужно задать перед подключением ИИ к инструментам с существенными последствиями.
3. Связывать защиту с непрерывностью работы, восстановлением и ответственностью.
## Книжная полка идеи
Работы, которые раскрывают истоки темы и помогают продолжить чтение.
1. [The Protection of Information in Computer Systems](https://web.mit.edu/Saltzer/www/publications/protection/)
Jerome H. Saltzer, Michael D. Schroeder
Опубликованная обзорная работа об архитектурных принципах защиты, включая минимальные привилегии и полное посредничество.
2. [The Confused Deputy: \(or why capabilities might have been invented\)](https://doi.org/10.1145/358549.358561)
Norman Hardy
Опубликованная работа о программе, которая использует законные полномочия в неверном контексте.
## Для кого
- Руководители в области кибербезопасности, рисков и технологий
- Архитекторы систем и команды управления доступом
- Исследователи и практики безопасности интеллектуальных систем
### Когда тема особенно уместна
Для организаций, расширяющих применение агентов или пересматривающих полномочия и доверие в технологической экосистеме.
**Границы темы**
Это не курс по проведению атак, не аудит инфраструктуры заказчика и не гарантия отсутствия инцидентов.
[Обсудить лекцию для вашей организации](https://isafwan.com/ru/speaking/?lecture=cybersecurity#invitation)
Уточнить контекст приглашения
## Одна идея. Глубина — под аудиторию.
Предлагаемый формат25–35 минут**Ключевое выступление**Общее понимание главного вопроса для руководителей и смешанной аудитории.45–60 минут**Профессиональная сессия**Связи и компромиссы, важные для практиков и лиц, принимающих решения.75–90 минут**Углублённая сессия**Для инженеров и исследователей; требования к подготовке и формат взаимодействия согласуются заранее.
Выбрать точку зрения[Обсудить лекцию для вашей организации](https://isafwan.com/ru/speaking/?lecture=cybersecurity&lens=all&session=keynote#invitation)
Форматы остаются предложением. Готовность, продолжительность и степень взаимодействия подтверждаются для каждого приглашения. Это языки описаний на сайте. Язык самого выступления и возможность перевода подтверждаются отдельно для каждого мероприятия.
Что их связывает
## Связанные материалы
[Связанные материалыКто купит сбой до того, как он случится?Документированный сбой можно прочитать как историю — или превратить в проверяемое условие отказа. Статья исследует, способна ли Саудовская Аравия экспортировать исполнимые контракты отказов, сохраняя смысл при переносе между системами и доказывая ценность повторной оплатой иностранных клиентов.](https://isafwan.com/ru/ideas/resilience-export-industry/)[ИсследованияОт отчёта к исполнимому контракту: концептуальное и вычислительное исследование экспортируемого знания о программных отказахКонцептуальная рабочая статья и полностью синтетический воспроизводимый опыт проверяют представление знания об отказах в 16 контрактах и четырёх искусственных реализациях. Шестьдесят четыре запуска показывают кодирование и повторяемость, но не предотвращение реальных происшествий, рыночный спрос или существование саудовской экспортной отрасли.](https://isafwan.com/ru/research/executable-failure-contracts/)[Связанные материалыБезопасность проектируют вместе с довериемКак соотнести контроль с возможным вредом, подготовить восстановление и сделать ответственность наблюдаемой.](https://isafwan.com/ru/ideas/security-is-a-design-decision/)
Темы[Кибербезопасность](https://isafwan.com/ru/topics/#cybersecurity)[Власть](https://isafwan.com/ru/topics/#power)
Следующая лекция[Суверенитет — это не модель](https://isafwan.com/ru/lectures/sovereign-ai/)[После цифровой трансформации](https://isafwan.com/ru/lectures/artificial-intelligence/)