JÜRI — Безопасное использование ИИ и снижение рисков

Для кого: для пользователей ИИ, которые хотят получить практические навыки снижения рисков, защиты своих данных и проверки достоверности результатов, созданных ИИ. Это обучение продолжает темы, рассмотренные на первом семинаре, но также подойдёт тем, у кого уже есть некоторый опыт использования ИИ.

Понимание рисков использования ИИ — первый шаг. Следующий вопрос — что мы можем сделать сами, чтобы их снизить. Какую информацию можно передавать ИИ? Как проверять его ответы? Как защитить документы и персональные данные? И как реагировать, если ИИ или созданное с его помощью сообщение пытается нас ввести в заблуждение?

Семинар посвящён практическим приёмам осознанного и безопасного использования ИИ. Мы рассмотрим, как эффективнее формулировать задачи, готовить информацию перед передачей ИИ, критически оценивать его ответы и избегать опасных или вводящих в заблуждение рекомендаций. Также мы обсудим, как мошенники используют ИИ и как документы, веб-сайты и другие внешние материалы могут содержать скрытые инструкции, призванные повлиять на ИИ.

Главная идея обучения проста: ИИ может быть очень способным помощником, но контроль и ответственность должны оставаться за человеком.

На семинаре вы научитесь:
- Формировать привычки безопасного использования ИИ и оценивать потенциальные риски до начала работы над задачей.
- Подготавливать документы и данные для работы с ИИ, удалять или скрывать конфиденциальную информацию и понимать ограничения анонимизации и псевдонимизации.
- Использовать настройки конфиденциальности и безопасности приложений ИИ и понимать разницу между общедоступными, персональными и предназначенными для организаций сервисами ИИ.
- Проверять факты, расчёты, источники и выводы в ответах ИИ, при необходимости используя независимые методы проверки.
- Распознавать манипулятивные инструкции, попытки фишинга и ситуации, когда внешний текст или документ пытается изменить поведение ИИ.
- Составить для себя простой свод правил безопасного использования ИИ, который поможет решать, какие задачи можно поручить ИИ, что необходимо проверить и когда стоит использовать другие решения.

В ходе практических упражнений мы будем уточнять и делать безопаснее запросы к ИИ, проверять подозрительные ответы, пробовать способы защиты данных и разбирать ситуации, в которых, казалось бы, безобидное использование ИИ может привести к непредвиденным последствиям.

Результат: участники смогут более осознанно и безопасно использовать ИИ, применять практические методы защиты данных и проверки результатов, а также разработать простые принципы снижения рисков для повседневного использования ИИ.

Как проходит семинар
Семинар носит практический характер и строится с учётом интересов участников: демонстрации, групповые эксперименты, обсуждения и короткие индивидуальные задания. Участникам рекомендуется взять с собой ноутбук и обеспечить доступ как минимум к одному приложению ИИ (ChatGPT, Copilot, Gemini, Claude или другому). В упражнениях используются подготовленные примеры данных, чтобы не подвергать риску личную или связанную с работой информацию участников. Вы получите примеры заданий, контрольные списки и практические рекомендации, которые помогут выработать безопасные привычки использования ИИ.

Семинар проводит Henn Sarv — консультант, эксперт, практик и тренер; тренер года IT Koolitus 2022; Microsoft Certified Trainer (MCT) с 1996 года; Microsoft MVP в области науки о данных в 2004–2018 годах.

Семинар проходит в рамках AI Week и инициативы Eesti.ai «Самая подкованная в ИИ нация».