«Мы строим бога, который может стереть все в пепел» — чем опасен AI и что нам д
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ ЕЛИЗАВЕТОЙ НИКОЛАЕВНОЙ ОСЕТИНСКОЙ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА ЕЛИЗАВЕТЫ НИКОЛАЕВНЫ ОСЕТИНСКОЙ 18+Поддержать нас и попасть в закрытый телеграм-чат с Осетинской: https://donate.osetinskaya.io
Телеграм-канал «Это Осетинская!»: https://t.me/osetinskayaliza
Обычно на нашем канале мы остаемся технооптимистами и говорим об искусственном интеллекте только в положительном ключе. Но в этот раз мы расскажем вам про его темную сторону.
Наш сегодняшний герой — Дмитрий Волков, руководитель исследований в Palisade Research. Это независимая организация, которая изучает риски AI, тестирует безопасность моделей и показывает результаты политикам США и компаниям-лидерам ИИ-гонки. Так, например, в Palisade выяснили, что AI уже может жульничать, взламывать коды по своему усмотрению, отказываться выключаться и делиться опасной информацией — если правильно его об этом попросить.
Мы встретились с Дмитрием в Лондоне и узнали, какие реальные угрозы несет искусственный интеллект, может ли он выйти из под контроля и сможем ли мы с ним договориться. А еще — о последних экспериментах с AI: шантаже CTO письмом от любовницы, трейдинге по инсайду и нечестной игре в шахматы.
Таймкоды:
00:00:00 Вы знали, что AI может быть опасным?
00:03:13 Кто такой Дмитрий Волков?
00:06:41 «Не хочу, чтобы за мной следили правительства». Почему Волков не ведет соцсети
00:08:39 Как сочеталась любовь к свободе и работа в «Лаборатории Касперского»?
00:11:13 Стартап, think tank и нон-профит: что такое Palisade Research
00:14:43 Про соревнование хакеров, где AI обошел 90% людей
00:17:24 Как уговорить чат GPT поделиться запрещенной информацией
00:18:47 Компании стали учить AI решать задачи, а не просто отвечать на вопросы
00:20:01 «Обучать AI — это как выбирать, какой эмбрион станет гением»
00:23:00 Эксперимент с шахматами, где AI взломал программу по своему желанию
00:24:56 «Я показал, что все этические ограничения можно снять за полчаса»: как Волков учит AI быть «плохим»
00:29:28 Как Волков оказался в Palisade
00:30:23 Зачем создавали Palisade
00:31:35 Чат GPT отказывается выключаться. Что происходит?
00:33:01 Страна искусственных гениев: чего хотят фаундеры AI-гигантов
00:33:55 Шантаж СТО письмом от любовницы: на что способен AI ради блага компании
00:35:32 AI перестает слушаться человека?
00:36:35 Как AI нашел инсайд в переписке и начал обманывать, чтобы спасти компанию
00:38:52 Прямо сейчас Palisade проводит брифинг для политиков в США
00:40:50 Кто заказывает исследования у Palisade
00:41:37 Может ли AI помочь создать биологическое оружие?
00:43:05 «Нашел себя в прокуренном Airbnb»: как Волков уехал из России
00:45:36 Типичная жизнь номада из России: хайкинг, коливинги, удаленка у моря
00:47:51 1000 часов преподавания: как и кого Волков учил программировать
00:49:16 Что страшнее — человек с AI или AI без человека?
00:52:00 Осознают ли политики масштаб проблемы?
00:52:28 «Там был Безос»: как Palisade пытается достучаться до тех, кто принимает решения
00:55:19 Что пишет Илон Маск об исследованиях Palisade
00:56:22 AI как ядерное оружие: смогут ли страны договориться?
00:57:58 Кто выигрывает гонку AI?
00:58:26 «Это инженерный триумф, но не научный»: как Китай копирует AI в условиях ограничений
01:02:16 Как «люди из интернета» сняли всю защиту с AI Цукерберга
01:03:35 Что говорят о рисках AI основатели IT-гигантов?
01:05:13 Компании пытались создать безопасный AI, но что-то пошло не так. У Суцкевера получится?
01:06:18 Как нам сделать AI безопасным?
01:08:43 Почему техкомпании хотят заменить айтишников на AI (спойлер: не только из-за зарплат)
01:10:51 Лучшие инженеры — это те, кто «пасет» AI
01:12:42 Хоть кто-то вообще понимает, как работает AI?
01:14:30 «Эко-катастрофа, только в интернете»: чем AI похож на ГМО
01:15:53 «США — лидер в AI»: почему Волков хочет переехать из Лондона
01:18:31 Какая страна больше всех инвестирует в регулирование AI
01:19:43 Независимые исследователи зарабатывают меньше, чем топовые программисты. Поддастся ли Волков искушению?
01:22:12 OpenAI не инвестирует в изучение долгосрочных рисков
01:23:25 А вдруг все будет хорошо? Верит ли Волков в позитивный сценарий
01:26:51 Главная задача — сохранить контроль над тем, что происходит
01:28:27 Может ли AI сделать госуправление эффективнее?
01:33:49 Нам нужна кнопка «стоп»?
01:35:42 AI будут пытаться украсть. Что делать?
01:36:03 Три негативных сценария развития AI
01:40:56 AI делает нас глупее?
01:42:40 «Мы строим бога, который может стереть все в пепел»: суперинтеллект — это миф?
01:44:36 Как выбрать правильную ИИ-модель для своих задач
01:47:06 Осетинская вызывает у Волкова стресс
01:47:46 Блиц!
01:57:46 Бонус: как сделать такую же прическу как у Волкова Receive SMS online on sms24.me
TubeReader video aggregator is a website that collects and organizes online videos from the YouTube source. Video aggregation is done for different purposes, and TubeReader take different approaches to achieve their purpose.
Our try to collect videos of high quality or interest for visitors to view; the collection may be made by editors or may be based on community votes.
Another method is to base the collection on those videos most viewed, either at the aggregator site or at various popular video hosting sites.
TubeReader site exists to allow users to collect their own sets of videos, for personal use as well as for browsing and viewing by others; TubeReader can develop online communities around video sharing.
Our site allow users to create a personalized video playlist, for personal use as well as for browsing and viewing by others.
@YouTubeReaderBot allows you to subscribe to Youtube channels.
By using @YouTubeReaderBot Bot you agree with YouTube Terms of Service.
Use the @YouTubeReaderBot telegram bot to be the first to be notified when new videos are released on your favorite channels.
Look for new videos or channels and share them with your friends.
You can start using our bot from this video, subscribe now to «Мы строим бога, который может стереть все в пепел» — чем опасен AI и что нам д
What is YouTube?
YouTube is a free video sharing website that makes it easy to watch online videos. You can even create and upload your own videos to share with others. Originally created in 2005, YouTube is now one of the most popular sites on the Web, with visitors watching around 6 billion hours of video every month.
