Эпоха трансформеров, эволюция AI и языковые модели ДНК — Михаил Бурцев | Мысл?

Как архитектура трансформера изменила искусственный интеллект и стала основой современных LLM? Разговор с Михаилом Бурцевым — исследователем AI, кандидатом физико-математических наук и Arnold & Landau AI Fellow в London Institute for Mathematical Sciences.

Обсуждаем устройство трансформеров и механизм внимания. Как появилась архитектура, на которой построены ChatGPT, Claude и Gemini? Почему предсказание следующего слова оказалось настолько мощной идеей и как оно изменило развитие AI? Говорим о природе интеллекта, различиях между человеком и LLM, а также о том, почему способность предсказывать следующее слово приводит к поведению, которое выглядит разумным.

Разбираем, как трансформеры помогают анализировать ДНК и как такие системы могут использоваться для персонализированной медицины. Говорим о будущем ИИ: почему эпоха масштабирования может подходить к концу, какие ограничения есть у современных моделей и каким может стать следующий этап развития искусственного интеллекта.

▶︎Naukka Talents – платформа для поиска талантов и найма STEM-специалистов в deep-tech и biotech проекты. Подать заявку кандидата: https://postnauka.org/link/tal1125_podcast1

00:00 О чем этот выпуск?
07:10 Как появились современные большие языковые модели
15:16 Тройственный союз: нейросети, символы и эволюция
20:03 Предыстория Attention Is All You Need
25:52 Проблема памяти до появления трансформеров
29:45 Что такое self-attention
37:30 Почему диалог сложнее машинного перевода
43:57 Как появились BERT и GPT
56:18 Создали ли мы искусственный интеллект?
01:07:44 Могут ли LLM навредить человечеству?
01:16:22 Почему AI делает контент вместо научных прорывов
01:22:22 Главная проблема трансформеров — длинный контекст
01:31:28 Как работает Recurrent Memory Transformer
01:37:50 Зачем LLM контекст на 50 миллионов токенов
01:42:53 Как превратить ДНК в язык для ИИ
01:49:48 Зачем изучать ДНК?
01:55:16 Зачем ИИ читать геном целиком?
02:03:33 Может ли ИИ прочитать весь геном человека?
02:08:41 ИИ против устойчивых бактерий
02:12:51 Без науки нет будущего
02:17:21 Заключение

▶︎Следите за ПостНаукой на других площадках: https://postnauka.org/link/linktr_yt
▶︎Курсы от создателей ПостНауки: https://postnauka.org/link/academy_yt
▶︎Поддержать ПостНауку: https://postnauka.org/link/donate_yt
▶︎По вопросам партнерства — коммуникационное агентство ПостНаука.Specials: https://postnauka.org/link/letsdance_yt

#трансформер #LLM #искусственныйинтеллект Receive SMS online on sms24.me

TubeReader video aggregator is a website that collects and organizes online videos from the YouTube source. Video aggregation is done for different purposes, and TubeReader take different approaches to achieve their purpose.

Our try to collect videos of high quality or interest for visitors to view; the collection may be made by editors or may be based on community votes.

Another method is to base the collection on those videos most viewed, either at the aggregator site or at various popular video hosting sites.

TubeReader site exists to allow users to collect their own sets of videos, for personal use as well as for browsing and viewing by others; TubeReader can develop online communities around video sharing.

Our site allow users to create a personalized video playlist, for personal use as well as for browsing and viewing by others.

@YouTubeReaderBot allows you to subscribe to Youtube channels.

By using @YouTubeReaderBot Bot you agree with YouTube Terms of Service.

Use the @YouTubeReaderBot telegram bot to be the first to be notified when new videos are released on your favorite channels.

Look for new videos or channels and share them with your friends.

You can start using our bot from this video, subscribe now to Эпоха трансформеров, эволюция AI и языковые модели ДНК — Михаил Бурцев | Мысл?

What is YouTube?

YouTube is a free video sharing website that makes it easy to watch online videos. You can even create and upload your own videos to share with others. Originally created in 2005, YouTube is now one of the most popular sites on the Web, with visitors watching around 6 billion hours of video every month.