ИНТехнО • Повышение квалификации
Безопасное и правомерное применение искусственного интеллекта
Освойте современные инструменты искусственного интеллекта и научитесь внедрять их в профессиональную деятельность с учётом требований безопасности, законодательства, защиты данных и интеллектуальных прав.
Актуальность программы
Искусственный интеллект всё активнее применяется при подготовке документов, анализе информации, обработке данных, создании контента, автоматизации процессов и поддержке управленческих решений.
Одновременно с расширением возможностей ИИ возрастают риски, связанные с передачей персональных и конфиденциальных данных, использованием недостоверных или неполных результатов, нарушением интеллектуальных прав, отсутствием человеческого контроля, непрозрачным использованием внешних ИИ-сервисов и недостаточным документированием решений.
Программа позволяет перейти от стихийного использования отдельных ИИ-инструментов к системному, контролируемому и документированному внедрению искусственного интеллекта в организации.
Цель программы
Сформировать у слушателей компетенции, необходимые для эффективного, безопасного и правомерного применения технологий искусственного интеллекта в профессиональной деятельности.
По итогам обучения слушатели смогут оценивать возможности и ограничения ИИ, выбирать подходящие инструменты, формулировать качественные запросы, автоматизировать рабочие процессы, проводить правовую и организационную оценку ИИ-решений, а также разрабатывать документы и контрольные процедуры для их безопасного внедрения.
Задачи программы
- Изучить принципы работы современных систем искусственного интеллекта.
- Освоить методы постановки задач и эффективного взаимодействия с генеративным ИИ.
- Научиться применять ИИ для работы с текстами, данными, изображениями, аудиоматериалами и презентациями.
- Освоить подходы к созданию ИИ-ассистентов и автоматизации рабочих процессов.
- Изучить риски применения искусственного интеллекта и классифицировать ИИ-сценарии по уровням риска.
- Освоить методы защиты персональных, конфиденциальных и коммерчески значимых данных.
- Разработать итоговый проект и дорожную карту безопасного внедрения ИИ.
Целевая аудитория
- Руководители организаций, структурных подразделений и проектов цифровой трансформации.
- Юристы, специалисты договорных подразделений, комплаенс- и риск-менеджеры.
- Специалисты по информационной безопасности и защите персональных данных.
- IT-специалисты, администраторы информационных систем, аналитики и специалисты по работе с данными.
- HR-специалисты, маркетологи, редакторы и специалисты по коммуникациям.
- Государственные и муниципальные служащие, преподаватели, методисты, предприниматели и владельцы бизнеса.
Кто может поступить
- Лица, имеющие среднее профессиональное или высшее образование.
- Лица, получающие среднее профессиональное или высшее образование.
- Руководители и специалисты, заинтересованные в безопасном и правомерном использовании искусственного интеллекта.
Специальные знания в области программирования не требуются. В программу включены практические занятия по созданию ИИ-ассистентов и автоматизированных сценариев в no-code- и low-code-средах.
Итоговая аттестация
Итоговая аттестация проводится в форме защиты практического проекта по безопасному и правомерному применению искусственного интеллекта.
Слушатель подготовит проект внедрения выбранного ИИ-сценария: оценит риски, разработает контрольные процедуры, комплект локальной документации и дорожную карту безопасного внедрения.
После обучения вы будете знать
- Понятие искусственного интеллекта и основные этапы развития ИИ-технологий.
- Принципы работы машинного обучения, генеративных, языковых и мультимодальных моделей.
- Возможности, ограничения и вероятностный характер результатов ИИ.
- Правила безопасной работы с персональными и конфиденциальными данными.
- Основные риски использования материалов, созданных с помощью ИИ.
- Подходы к классификации ИИ-сценариев по уровням риска и распределению ответственности.
- Методы проверки качества, безопасности и законности ИИ-решений.
- Порядок реагирования на инциденты и периодической переоценки ИИ-систем.
После обучения вы сможете
- Декомпозировать профессиональные задачи и составлять качественные запросы к генеративному ИИ.
- Проверять качество и достоверность результатов, полученных с применением ИИ.
- Создавать, редактировать и структурировать тексты, анализировать табличные данные и готовить презентационные материалы.
- Выявлять процессы, пригодные для автоматизации, и проектировать ИИ-ассистентов.
- Формировать реестр ИИ-систем, карты рисков, матрицы ролей и процедуры согласования.
- Проверять права, лицензии и ограничения на использование материалов.
- Тестировать ИИ-системы на безопасность, устойчивость к манипуляциям и соответствие требованиям.
- Разрабатывать регламенты эксплуатации, планы реагирования и заключения о допуске ИИ-решений.
Практические результаты обучения
В ходе обучения слушатель подготовит документы и рабочие материалы, которые можно адаптировать для применения в своей организации.
- Реестр ИИ-инструментов организации и карту профессиональных сценариев применения ИИ.
- Матрицу классификации ИИ-сценариев по уровням риска.
- Матрицу ролей и ответственности, процедуру допуска ИИ-решений к эксплуатации.
- Реестр рисков применения ИИ и карту потоков данных.
- Обезличенный набор данных и чек-лист проверки данных перед загрузкой в ИИ-систему.
- Матрицу прав и ограничений на использование материалов, перечень договорных рисков.
- Шаблоны уведомлений, согласий, правовых оговорок и маркировки материалов.
- Критерии приёмки ИИ-системы и библиотеку правовых и безопасностных тест-кейсов.
- Отчёт об уязвимостях ИИ-системы и архитектурную схему безопасного использования ИИ.
- Матрицу полномочий пользователей и план реагирования на ИИ-инциденты.
- Программу мониторинга и периодической переоценки ИИ-систем.
- Комплект локальной документации, итоговый проект и дорожную карту безопасного внедрения ИИ.
Перспективы профессионального роста
Полученные компетенции могут применяться в организациях, внедряющих искусственный интеллект, автоматизирующих процессы или использующих внешние и корпоративные ИИ-сервисы.
- Управление проектами внедрения искусственного интеллекта и цифровой трансформации.
- Управление рисками, комплаенс и правовое сопровождение цифровых проектов.
- Защита персональных и конфиденциальных данных, информационная безопасность.
- Аудит, тестирование и контроль качества ИИ-систем.
- Разработка корпоративных правил использования ИИ и автоматизация бизнес-процессов.
- Создание, внедрение и сопровождение ИИ-ассистентов; консультирование по вопросам ответственного применения ИИ.
Содержание программы
Общая трудоёмкость программы — 102 часа. Учебный план включает 10 модулей: от основ генеративного ИИ до разработки итогового проекта безопасного и правомерного внедрения ИИ в организации.
8 часов
- 1.1. Понятие искусственного интеллекта и основные этапы развития технологий — 2 часа.Сущность искусственного интеллекта и ключевые этапы развития ИИ-технологий.
- 1.2. Машинное обучение, генеративные, языковые и мультимодальные модели — 2 часа.Основные типы современных моделей и принципы их работы.
- 1.3. Возможности, ограничения и вероятностный характер результатов ИИ — 2 часа.Сильные стороны ИИ, существующие ограничения и причины возможной неточности результатов.
- 1.4. Экосистема ИИ-инструментов и критерии выбора решения под задачу — 2 часа.Обзор ИИ-инструментов и критерии выбора решения для конкретной профессиональной задачи.
8 часов
- 2.1. Декомпозиция профессиональной задачи и определение ожидаемого результата — 2 часа.Разделение сложной задачи на последовательные этапы и формулирование конкретного результата.
- 2.2. Структура качественного запроса: роль, контекст, данные, ограничения и формат — 2 часа.Основные элементы запроса, позволяющие получать более точные и полезные ответы.
- 2.3. Методы промптинга: примеры, шаблоны, критерии и пошаговое рассуждение — 2 часа.Практические методы составления запросов для решения профессиональных задач.
- 2.4. Итеративный диалог, управление контекстом и проверка качества ответа — 2 часа.Уточнение запросов, сохранение необходимого контекста и оценка качества результатов.
8 часов
- 3.1. Создание, редактирование, сокращение и структурирование текстов и документов — 2 часа.Применение ИИ для подготовки и улучшения текстовых материалов.
- 3.2. Поиск, обобщение и проверка информации с использованием ИИ — 2 часа.Поиск данных, выделение главного и проверка достоверности информации.
- 3.3. Работа с таблицами: первичный анализ, выводы и визуальное представление данных — 2 часа.Базовые приёмы анализа табличных данных, формулирования выводов и создания визуализаций.
- 3.4. Создание и проверка изображений, аудиоматериалов и презентаций — 2 часа.Возможности ИИ при работе с визуальным, аудиальным и презентационным контентом.
8 часов
- 4.1. Описание рабочего процесса и поиск задач, пригодных для автоматизации — 2 часа.Анализ рабочих процессов и выявление операций, которые можно автоматизировать.
- 4.2. Архитектура ИИ-ассистента: инструкции, память, знания и инструменты — 2 часа.Компоненты ИИ-ассистента и принципы их совместной работы.
- 4.3. ИИ-агенты и многошаговые сценарии в no-code/low-code среде — 2 часа.Создание агентных систем и автоматизированных сценариев без сложного программирования.
- 4.4. Проектирование пилота: метрики эффекта, ограничения и человеческий контроль — 2 часа.Подготовка пилотного ИИ-проекта, оценка эффективности и организация человеческого контроля.
8 часов
- 5.1. Галлюцинации, неполнота, смещения и риски принятия решений на основе ИИ — 2 часа.Типичные ошибки ИИ и риски использования его результатов в профессиональной деятельности.
- 5.2. Персональные и конфиденциальные данные: правила безопасной передачи — 2 часа.Требования и практические правила безопасной работы с персональными и закрытыми данными.
- 5.3. Интеллектуальные права и ответственность за материалы, созданные с помощью ИИ — 2 часа.Авторские права и ответственность при создании и использовании ИИ-контента.
- 5.4. Проверка источников, человеческий контроль и правила использования ИИ в организации — 2 часа.Проверка результатов, организация человеческого контроля и разработка внутренних правил применения ИИ.
12 часов
- 6.1. Инвентаризация ИИ-систем и профессиональных сценариев их использования — 2 часа.Выявление используемых ИИ-сервисов, встроенных функций, корпоративных ассистентов и неофициально применяемых сотрудниками инструментов.Практический результат: реестр ИИ-инструментов с указанием владельцев, пользователей, данных, результатов и статуса использования.
- 6.2. Классификация ИИ-сценариев по уровням правового и организационного риска — 2 часа.Определение критериев низкого, среднего, высокого и недопустимого риска.Практический результат: матрица классификации ИИ-сценариев и перечень мер контроля.
- 6.3. Распределение ролей и ответственности при использовании ИИ — 2 часа.Определение функций владельца системы, заказчика, пользователя, специалиста по информационной безопасности, юриста, администратора и лица, принимающего итоговое решение.Практический результат: организационная схема управления ИИ-системой.
- 6.4. Проектирование процедуры допуска ИИ-решений к эксплуатации — 3 часа.Разработка последовательности действий от инициативы внедрения до разрешения на эксплуатацию.Практический результат: процедура допуска ИИ-решений с контрольными точками и закреплёнными ответственными лицами.
- 6.5. Документирование управленческих решений и ведение реестра рисков — 3 часа.Фиксация рисков, компенсирующих мер, остаточного риска, сроков пересмотра и ответственных лиц.Практический результат: реестр рисков и комплект документов для внутреннего контроля.
12 часов
- 7.1. Картирование потоков данных в ИИ-сценариях — 3 часа.Определение источников, маршрутов передачи, мест хранения, получателей и сроков обработки данных.Практический результат: карта потоков данных с правовыми основаниями, ограничениями и контрольными мерами.
- 7.2. Минимизация, обезличивание и подготовка данных для безопасной обработки — 2 часа.Исключение избыточных сведений, маскирование идентификаторов и замена чувствительных данных.Практический результат: обезличенный набор данных и чек-лист проверки перед загрузкой.
- 7.3. Проверка прав на исходные материалы и результаты, созданные с применением ИИ — 3 часа.Проверка происхождения материалов, лицензий, условий использования и возможности коммерческого применения.Практический результат: матрица прав и ограничений.
- 7.4. Правовая экспертиза договоров с поставщиками ИИ-сервисов — 2 часа.Анализ условий обработки данных, использования материалов для обучения моделей, распределения ответственности и удаления информации.Практический результат: перечень договорных рисков и предложения по обязательным условиям договора.
- 7.5. Оформление уведомлений, согласий и правовых оговорок — 2 часа.Подготовка документов для информирования работников, клиентов и контрагентов об использовании ИИ.Практический результат: шаблоны уведомлений, согласий, правовых оговорок и маркировки материалов.
12 часов
- 8.1. Разработка критериев приёмки ИИ-системы — 2 часа.Установление измеримых требований к точности, полноте, воспроизводимости, безопасности и конфиденциальности.Практический результат: карта требований и таблица допустимых и недопустимых результатов.
- 8.2. Формирование набора правовых и безопасностных тест-кейсов — 3 часа.Разработка проверок на раскрытие данных, выдачу опасных рекомендаций, обход ограничений и выполнение запрещённых запросов.Практический результат: библиотека тест-кейсов.
- 8.3. Тестирование устойчивости ИИ-системы к манипуляциям и злоупотреблениям — 3 часа.Проверка реакции системы на скрытые инструкции, подмену контекста и попытки получить закрытые сведения.Практический результат: отчёт об уязвимостях и перечень мер защиты.
- 8.4. Проверка результатов на дискриминационные и необоснованные различия — 2 часа.Сравнение результатов ИИ по заранее подготовленным контрольным профилям.Практический результат: таблица выявленных различий и рекомендации по корректировке.
- 8.5. Оформление заключения о готовности ИИ-решения к применению — 2 часа.Обобщение результатов юридической, технической и организационной проверки.Практический результат: решение о допуске, условном допуске или запрете эксплуатации ИИ-решения.
12 часов
- 9.1. Проектирование защищённой среды использования ИИ — 3 часа.Разделение открытых, внутренних и конфиденциальных данных, определение разрешённых каналов передачи информации.Практический результат: архитектурная схема безопасного использования ИИ.
- 9.2. Настройка полномочий, журналирования и контроля действий пользователей — 2 часа.Разграничение доступа к функциям, данным и результатам, определение регистрируемых операций.Практический результат: матрица полномочий и требования к журналу операций.
- 9.3. Комплексная проверка поставщика ИИ-решения — 2 часа.Оценка прозрачности поставщика, мер защиты данных, истории инцидентов и порядка уведомления об изменениях.Практический результат: карта проверки поставщика и решение о допустимости его использования.
- 9.4. Реагирование на инциденты, связанные с применением ИИ — 3 часа.Порядок действий при утечке данных, опасном результате, нарушении прав или неконтролируемом выполнении операций.Практический результат: план реагирования, карточка первичной фиксации и схема эскалации.
- 9.5. Мониторинг изменений и периодическая переоценка ИИ-систем — 2 часа.Контроль обновлений модели, условий обслуживания, источников данных и характера результатов.Практический результат: программа мониторинга с периодичностью проверок и критериями повторной оценки.
14 часов
- 10.1. Выбор профессионального сценария и подготовка паспорта ИИ-проекта — 2 часа.Описание задачи, участников, системы, категорий данных, ожидаемого результата и возможных последствий.Практический результат: паспорт ИИ-проекта.
- 10.2. Проведение комплексной оценки правовых и организационных рисков — 3 часа.Анализ потоков данных, прав на материалы, условий поставщика и возможных последствий применения ИИ.Практический результат: комплексная карта рисков и план компенсирующих мер.
- 10.3. Разработка комплекта локальной документации ИИ-проекта — 3 часа.Подготовка регламента эксплуатации, распределения ответственности, порядка контроля и процедуры остановки системы.Практический результат: пакет локальной документации для запуска ИИ-сценария.
- 10.4. Контрольное тестирование и моделирование инцидента — 3 часа.Проведение функциональных, правовых и безопасностных проверок, моделирование нарушения и оценка реагирования.Практический результат: протокол испытаний, отчёт об инциденте и перечень улучшений.
- 10.5. Защита итогового проекта и формирование плана безопасного внедрения — 3 часа.Представление разработанного решения, обоснование допустимости применения ИИ и демонстрация контрольных процедур.Практический результат: итоговый проект безопасного и правомерного применения ИИ и дорожная карта его внедрения.
Стоимость обучения
11 800 ₽ 5 900 ₽
Рассрочка платежа — 0%.
В стоимость входит обучение по программе объёмом 102 часа, практические задания, подготовка итогового проекта и выдача удостоверения о повышении квалификации при успешном прохождении итоговой аттестации.
Записаться на программу
Оставьте заявку на обучение или получите консультацию по содержанию программы, формату обучения, поступлению и итоговой аттестации.
Важная информация
- Формат программы: повышение квалификации.
- Общая трудоёмкость: 102 часа.
- Продолжительность обучения: 1 месяц.
- Итоговая аттестация: защита практического проекта по безопасному и правомерному применению искусственного интеллекта.
- Документ по завершении: удостоверение о повышении квалификации установленного образца.
- Сведения о выпускниках и выданных документах в обязательном порядке вносятся в ФИС ФРДО.
