От OpenAI выступят главный научный сотрудник Якуб Пачоцки, сооснователь Джон Шульман, а также состоится сессия вопросов и ответов с Сэмом Альтманом.
От Anthropic — Николас Карлини и Джек Линдси.
В программе:
- RLHF и обучение с подкреплением для моделей, способных рассуждать;
- взлом функции вознаграждения, когда модели находят способы обмануть проверяющих;
- мониторинг цепочек рассуждений;
- интерпретируемость, то есть изучение внутреннего устройства моделей;
- кибернетические и биологические риски ИИ;
- выравнивание ИИ в ситуации, когда ИИ помогает создавать следующее поколение ИИ;
- спецификации моделей, открытые веса, регулирование и влияние ИИ на рынок труда.
Лекции можно бесплатно посмотреть на YouTube.