Где и кем работать, какая зарплата после магистратуры Университета ИТМО по программе "Безопасность систем искусственного интеллекта"

Чем занимаются специалисты:

• анализируют и выявляют скрытые уязвимости в алгоритмах машинного обучения и нейронных сетях;
• разрабатывают и внедряют методы защиты от целенаправленных атак — так называемых «враждебных примеров», когда специально созданные данные обманывают модель искусственного интеллекта;
• обеспечивают конфиденциальность и целостность информационных наборов, используемых для обучения алгоритмов, включая применение специальных методов — таких, как дифференциальная конфиденциальность;
• проектируют и строят киберустойчивые архитектуры систем искусственного интеллекта, способные противостоять внешним вмешательствам и продолжать работу даже в условиях атаки;
• проводят оценку рисков и управляют ими на всех этапах жизненного цикла интеллектуальной системы — от проектирования до ее вывода из эксплуатации;
• занимаются проверкой и аттестацией систем искусственного интеллекта — доказывая их надежность, безопасность и соответствие заявленным требованиям перед внедрением;
• исследуют новые виды угроз для искусственного интеллекта и разрабатывают опережающие методы защиты;
• создают криптографические протоколы, обеспечивающие безопасное совместное использование данных и моделей искусственного интеллекта без раскрытия конфиденциальной исходной информации.

Где работают специалисты:

• в крупных технологических компаниях, разрабатывающих или активно использующих системы искусственного интеллекта и машинное обучение;
• в подразделениях информационной безопасности банков, финансовых и страховых организаций — для защиты систем скоринга, обнаружения мошенничества и анализа рисков;
• в государственных структурах и силовых ведомствах, отвечающих за кибербезопасность и оборону;
• в научно-исследовательских центрах и лабораториях, где ведутся передовые разработки в области искусственного интеллекта и его безопасности;
• в консалтинговых и аудиторских компаниях, специализирующихся на оценке защищенности сложных информационных систем;
• в медицинских и исследовательских учреждениях — для обеспечения безопасности диагностических систем и алгоритмов, работающих с персональными данными пациентов.

Выпускники программы могут работать на должностях:

• аналитик;
• инженер-исследователь в сфере информационной безопасности систем искусственного интеллекта;
• инженер-программист по защите информации систем искусственного интеллекта;
• исследователь данных с использованием систем искусственного интеллекта;
• руководитель служб и подразделений в сфере систем искусственного интеллекта;
• руководитель служб и подразделений в сфере информационной безопасности систем искусственного интеллекта;
• специалист по автоматизации информационно-аналитической деятельности в сфере безопасности;
• специалист по обеспечению безопасности информации систем искусственного интеллекта.