Межфакультетский курс «Нейронные сети и их применение в научных исследованиях»

Компьютерное зрение, распознавание речи, «понимание» текста и многие другие формы узкоспециализированного искусственного интеллекта (ANI — artificial narrow intelligence) сегодня являются частью повседневной жизни. В основе этих технологий лежит машинное обучение, которое используется для построения обучающихся алгоритмов. В настоящее время одним из самых перспективных методов машинного обучения считается глубокое обучение (нейронные сети). За последние несколько лет глубокое обучение нашло применение практически во всех областях науки: от биологии и физики до лингвистики и философии.

Этот 12-недельный курс даст студентам высокоуровневый обзор современных методов искусственного интеллекта и их применения в различных научных областях. Демонстрации и викторины помогут студентам разобраться, что возможно в настоящее время и что, вероятно, будет возможно в ближайшем будущем. Из-за упрощённого изложения курс может быть неинтересен студентам технических факультетов, которые уже разбираются в нейронных сетях.

О проекте MSU.AI. Машинное обучение: кратко о главном. Терминология: машинное обучение, искусственный интеллект и нейронные сети. Алан Тьюринг. История развития искусственного интеллекта. ImageNet. Зачем нам искусственный интеллект. Как обучать нейронную сеть. В каких научных задачах используется машинное обучение. Нейронные сети в науке.

Как работают нейронные сети. Этапы работы нейронной сети. Задача регрессии. Термин "регрессия". Метод градиентного спуска. Задача классификации. Функция активации. Линейные модели. Смещение (bias). Универсальная теорема аппроксимации (Теорема Цыбенко). Physics-Informed Neural Networks (PINN). Применение искусственного интеллекта в научных работах.

Из чего состоят картинки. Ядро свёртки. Как видят свёрточные нейронные сети. Базовые задачи свёрточных нейронных сетей. Аугментация. Transfer Learning. Примеры использования нейронных сетей в научной деятельности.

Как нейросеть работает с текстом. Word2vec. Демонстрация работы нейронной сети. Последовательности. Рекуррентная нейронная сеть. Many to one. Many to many. Совместить CNN и RNN. Long-Short Term Memory (LSTM). Практическое применение рекуррентных нейронных сетей.

Трансформеры. Практическое применение трансформеров. Как обучать трансформеры. Как применить BERT для своей задачи. Демонстрация работы нейронной сети с текстом. Работа трансформеров с изображениями. С чем еще работают трансформеры. Научное применение BERT.

Self-supervised learning. GPT-3. История GPT. Стоимость обучения нейронных сетей. Применение GPT. Этические проблемы GPT. ChatGPT (GPT-3.5). Применение чата GPT. ChatGPT (GPT-4). Поисковики на базе искусственного интеллекта. AlphaFold. Применение нейронных сетей для научных задач.

История Open AI. Large Language Model, LLM. Prompt engineering. Промты для нейросетей: примеры, как писать запросы. Токенизация. Техники работы с нейросетью. Как работать с нейросетью на своих данных.

Сжатие информации. Автоэнкодер. Как создавать новые изображения с помощью нейронной сети (генератор и дискриминатор). Генеративно-состязательные сети (GAN - Generative Adversarial Networks). Генерация изображений по текстовому описанию. Архитектура CLIP. Перенос стиля на видео с помощью ИИ.

Примеры задач, которые можно формулировать с помощью RL. Концептуально про RL. В каких играх побеждает искусственный интеллект. Применение RL в различных областях науки. Обучение роботов с помощью нейронных сетей. Сложности обучения с подкреплением. Научные работы по RL.

Тест Тьюринга. Нейросеть или человек? Перспективы и сложности развития искусственного интеллекта. Искусственный интеллект и доверие. Explainable AI. Правовые аспекты. ИИ, как инструмент мошенников. Другие ограничения развития нейросетей. Каким будет сильный ИИ по мнению экспертов.