Главная проблема ИИ, которую никто не может решить

Регистрируйтесь на бесплатную большую конференцию по нейросетям «Навыки будущего». Участвуйте в розыгрыше и получайте подарки! — https://l.skbx.pro/iiD4Bq?erid=2VtzquqoqQP Как контролировать искусственный интеллект, который умнее нас? Почему ИИ может стать последним изобретением человечества? От умных роботов до галактических империй — как ИИ может изменить Вселенную. Разбираемся, почему сверхразумные цивилизации будут расти как бокалы шампанского, как они будут контролировать целые галактики, и останется ли в этом будущем место для людей. Разбираем главную проблему: сможем ли мы научить машины нашим ценностям до того, как они станут слишком умными для контроля? При создании ролика я преимущественно опирался на: Книгу Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта (Макс Тегмарк) Книгу “Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте” (Брокман Джон) Книгу “Атлас искусственного интеллекта” (Кейт Кроуфорд) Советую посмотреть ролик канала Rational Animations про создание злого ИИ: The True Story of How GPT-2 Became Maximally Lewd https://www.youtube.com/watch?v=qV_rOlHjvvs Таймкоды для навигации по ролику: 00:00 - Системы глубокого обучения с подкреплением 03:06 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind) 06:24 - Обучаем ИИ игре Breakout + Конференция по нейросетям "Навыки будущего" 09:18 - История умного коня Ганса 11:22 - Что значит быть "умным"? 14:36 - Крупнейшие неудачи внедрения ИИ 18:49 - Выживут только ИИ-любовники 20:53 - Когда появится суперинтеллект? Мнение Сэма Альмана 23:28 - Поиск определений понятий "интеллект" и "общий" 31:25 - Может ли сверхинтеллект хотеть производить скрепки? 33:19 - Первая технология, способная погубить жизнь 36:05 - А что думает ИИ про безопасность ИИ? 38:03 - Самый похотливый ИИ всех времен 42:13 - Проблема загрузки ценностей 42:45 - Истоки целей в природе 47:20 - Согласование целей ИИ с целями людей 51:24 - Выбор целей 55:48 - Будущая жизнь 58:20 - Информация как главный товар будущего Поддержать выход новых роликов можно: ✨ На Патреоне (зарубежные карты) https://www.patreon.com/HomoDeusSynergy ✨ На Бусти (российские карты) https://boosty.to/homodeus BTC 1QFQRDfzVUgWmpY2j3GT9qxxZhShqVQngY ETH 0x65d33bd38f5a021b097253045306367334975402 Спасибо! Реклама: erid=2VtzquqoqQP