ТАЛЛИНН — Безопасное использование ИИ и снижение рисков

Для кого: для пользователей ИИ, которые хотят приобрести практические навыки снижения рисков, защиты данных и проверки надёжности результатов, созданных с помощью ИИ. Этот тренинг продолжает темы, рассмотренные на первом семинаре, но также подойдёт тем, у кого уже есть некоторый опыт использования ИИ.

Понимание рисков, связанных с использованием ИИ, — первый шаг. Следующий вопрос — что мы можем сделать сами, чтобы снизить эти риски. Какую информацию можно предоставлять ИИ? Как проверять его ответы? Как защитить документы и персональные данные? И как реагировать, когда ИИ или созданное с его помощью сообщение пытается ввести вас в заблуждение?

Семинар посвящён практическим приёмам осознанного и безопасного использования ИИ. Мы рассмотрим, как эффективнее формулировать задачи, подготавливать информацию перед передачей ИИ, критически оценивать его ответы и избегать опасных или вводящих в заблуждение рекомендаций. Также мы узнаем, как мошенники используют ИИ и как документы, веб-сайты и другие внешние материалы могут содержать скрытые инструкции, призванные повлиять на ИИ.

Основная идея тренинга проста: ИИ может быть очень эффективным помощником, но контроль и ответственность должны оставаться за человеком, который им пользуется.

На семинаре вы научитесь:
- Вырабатывать привычки безопасного использования ИИ и оценивать потенциальные риски до начала работы над задачей.
- Подготавливать документы и данные для работы с ИИ, удалять или скрывать конфиденциальную информацию, а также понимать ограничения анонимизации и псевдонимизации.
- Использовать настройки конфиденциальности и безопасности в приложениях с ИИ и понимать разницу между общедоступными, персональными и ориентированными на организации сервисами ИИ.
- Проверять факты, расчёты, источники и выводы в ответах ИИ, при необходимости используя независимые методы проверки.
- Распознавать манипулятивные инструкции, попытки фишинга и ситуации, когда внешний текст или документ пытается изменить поведение ИИ.
- Составить простой набор рекомендаций по безопасному использованию ИИ, чтобы решать, какие задачи ему доверять, что проверять и когда использовать другие решения.

В ходе практических упражнений мы будем улучшать формулировки задач для ИИ и делать их безопаснее, проверять подозрительные ответы, пробовать способы защиты данных и анализировать ситуации, в которых кажущееся безобидным использование ИИ может привести к нежелательным последствиям.

Результат: участники смогут пользоваться ИИ более осознанно и безопасно, применять практические методы защиты данных и проверки результатов, а также выработать простые принципы снижения рисков при повседневном использовании ИИ.

Как проходит семинар
Семинар носит практический характер и ориентирован на участников. В программе — демонстрации, групповые эксперименты, обсуждения и короткие индивидуальные упражнения. Участникам рекомендуется взять с собой ноутбук и обеспечить доступ хотя бы к одному приложению с ИИ (ChatGPT, Copilot, Gemini, Claude или другому). В упражнениях используются подготовленные примеры данных, чтобы личная информация участников и сведения, связанные с их работой, не подвергались риску. Вы получите примеры заданий, контрольные списки и практические рекомендации, которые помогут выработать безопасные рабочие привычки при использовании ИИ.

Семинар ведёт Henn Sarv — консультант, эксперт, практик и тренер; тренер года IT Koolitus 2022; Microsoft Certified Trainer (MCT) с 1996 года; Microsoft MVP в области науки о данных с 2004 по 2018 год.

Семинар проходит в рамках Недели ИИ и инициативы Eesti.ai «Самая сведущая в ИИ нация».