Институт «будущее жизни» наградил разработчиков ии
В Бостоне прошла церемония награждения победителей конкурса работ в области искусственного интеллекта. Тридцать семь проектов были отобраны более чем из трёхсот представленных на суд жюри.
Их авторы получат гранты из фонда Open Philanthropy Project и средств некоммерческой организации The Future of Life Institute.
«Эти 37 проектов – лишь верхушка айсберга, – пояснил представитель института Джесси Галеф. – Мы надеемся, что наша программа вдохновит других заняться этой сложной и новой областью исследований ИИ».
Джесси Галеф (фото: Heather Leah Kennedy).
Одна из работ носила говорящее название: «Автономное вооружение летального действия, ИИ и надлежащий контроль со стороны человека». Это не сценарий к очередному фантастическому боевику, а выполнение обсуждаемой резолюции ООН.
Совет по безопасности ещё не пришёл к единому мнению о том, что именно следует считать «надлежащим контролем». Сейчас мы используем «слабые» системы ИИ в тактическом управлении. «Сильный ИИ» создаётся для помощи в решении стратегических задач.
Его будет гораздо сложнее предсказать и контролировать.
Институт «Будущее жизни» (FLI) был основан группой исследователей из разных областей, разделяющих взгляды о стремлении человечества к технологической сингулярности. Они ставят своей целью разработать долговременные стратегии безопасного развития технологий прорыва, и в первую очередь – «сильного» искусственного интеллекта.
Среди сооснователей FLI есть физики Макс Тегмарк и Энтони Агирр, соавтор Skype Яан Таллинн, эксперт по методам машинного обучения Виктория Краковна и специалист по биологическим механизмам познания Мея Чита-Тегмарк.
Структура FLI (изображение: futureoflife.org).
Список официальных советников и меценатов института выглядит ещё более впечатляюще. Возглавляют его нобелевские лауреаты по физике Стивен Хокинг и Сол Перлмуттер, нейробиолог Кристоф Кох, а также сооснователь SpaceX и Tesla Motors Илон Маск.
На развитие исследований в области искусственного интеллекта Маск пожертвовал $10 млн., поскольку сильно обеспокоен вектором развития связанных с ИИ технологий и меняющейся ролью людей в ближайшем будущем. Конечно, он не говорит всерьёз о повторении в реальности сюжета «Терминатора» или «Матрицы».
Это лишь образные сравнения. Однако человек сможет контролировать машины только до тех пор, пока остаётся хоть немного умнее них и в состоянии обходиться своими силами.
Проблема в том, что не желая принимать ответственность, мы постепенно наделяем компьютеры и другие устройства властью. «Я не могу вам это продать, товара в базе нету», – говорят мне на кассе. «Я не могу изменить расписание, его программа так составила», – сообщают в университете. «Мне смартфон написал, что у тебя сегодня день рождения!» – настаивает коллега. «Здесь не может быть ошибки, мы на компьютере считали», – оправдываются студенты. Таких примеров каждый день набирается масса.
Они веселят, пока не собираются в общую картину: мы не столько разгружаем себя автоматизацией работы, сколько создаём новую.
Робот AILA терпит присутствие любопытных белковых существ (фото: REUTERS/Fabrizio Bensch).
Избалованное технологиями большинство уже не хочет жить иначе и формирует одностороннюю зависимость. Уже давно во многих отраслях люди только мешают автоматике и оставлены на своих местах лишь для самоуспокоения. Яркий пример – вектор развития программы ВВС США.
За последние пять лет число строевых лётчиков резко сократилось. Их место сейчас занимают операторы дронов, а завтра они сами освободят кресло, поскольку не будут успевать командовать поумневшей автоматикой.
В современном автомобиле водитель напрасно чувствует себя хозяином положения. Он едет по маршруту GPS-навигатора, а органы управления уже не связаны механически с исполнительными.
Они передают команды бортовому компьютеру, который и управляет машиной. Даже автоматическая парковка и полный автопилот – уже вполне готовые технологии.
Их массовое внедрение сдерживает лишь психологический барьер. Когда он окажется в прошлом, все места в салоне можно будет сделать пассажирскими.
В машине с автопилотом руль останется как элемент стиля (изображение: thedetroitbureau.com).
Начало процессу отстранения людей от управления было положено ещё в прошлом веке. Вот что говорил в конце восьмидесятых Ричард Фейнман о своей работе в комиссии по расследованию причин катастрофы шаттла «Челленджер»: «… все операции контролируются компьютерами.
Шаттл автоматически попадает на орбиту — астронавты просто сидят на своих местах. Наиболее эффектная вещь — это посадка. В течение этого времени астронавты ничего не видят, и все изменяется настолько быстро, что снижение должно проводиться автоматически.
Однако на высоте в четыре тысячи футов происходит нечто, что выполняет не компьютер: пилот нажимает на кнопку, чтобы опустить шасси. Я нашел это очень странным – глупость, которая, очевидно, связана с психологией пилотов: они герои в глазах публики; все считают, что именно они управляют шаттлом.
Для них просто невыносима мысль, что, на самом деле, им делать нечего».
В этом примере речь идёт о «слабом» ИИ – группе из пяти компьютеров, выполняющих единую программу полёта с довольно жёстко детерминированными критериями. Ни на что другое они не способны, но со своей задачей справляются лучше любой группы астронавтов.
Современные реализации на базе нейросетей разных типов уверенно развиваются в сторону «сильного» ИИ, умеющего воспринимать естественный язык, учиться и творить.
К примеру, IBM Watson без разницы, что именно анализировать на входе и формулировать на выходе. Он с одинаковым успехом предложить новый рецепт блюда, выигрышную стратегию игры или рассчитает вещество с заданным биологическим эффектом.
В работе с ним даже прослеживаются элементы самосознания или его успешная имитация. Во всяком случае, всё выглядит так, будто он отделяет сведения о себе от данных об окружающем мире и умеет наряду с изложением фактов формулировать частное мнение.
– Может ли робот написать симфонию, или создать шедевр живописи?
– А вы можете?
(фрагмент из фильма “Я, робот”).
Илон Маск уверен, что неспециалистам сегодня трудно осознать масштабы возникающей проблемы. Люди лишь шутят по этому поводу, удивляясь подсказкам Siri, Cortana или Google Now. «Прогресс в области искусственного интеллекта невероятно быстрый.
Без доступа к разработкам Deepmind и других компаний трудно осознать, насколько стремительным темпами развивается индустрия. Рост в ней близок к экспоненциальному.
Существует риск, что нечто действительно опасное случится в ближайшие пять, максимум – десять лет. Это не та ситуация, когда поднимают ложную тревогу без малейшего понимания научного подхода».
Главная миссия FLI – смягчение рисков, которые грозят человечеству в будущем от необдуманного использования новых технологий. Это коллектив опытных исследователей, а не очередные неолуддиты, призывающие разбить машины и уйти жить в леса.
Многие из собравшихся в институте развивали ключевые направления технологий и активно пользуются ими сами.
«Я не одинок в своих мыслях о том, что пора обеспокоиться. Ведущие компании в сфере ИИ уже предприняли значительные меры для обеспечения безопасности.
Впрочем, распознавать опасность – это одно, а научиться контролировать цифровой суперинтеллект – совсем другое», – говорит Илон Маск.
Большинство победителей конкурса приступят к реализации своих проектов уже в сентябре. Общая сумма грантов составит $7 млн.
Искусственный интеллект в играх. Компьютерные игры с крутым ии. Технологии будущего в видеоиграх
