Все ли так радужно? Билл Гейтс провел аналогию между искусственным интеллектом и ядерным оружием

Искусственный интеллект вызовет изменения, к которым человечество не готово, поскольку технологии развиваются беспрецедентными темпами.

Об этом говорили ведущие эксперты на официальном открытии нового центра искусственного интеллекта при Стэнфордском университете (Stanford Institute for Human-Centered Artificial Intelligence (HAI)). Он будет заниматься изучением, руководством и разработкой технологий и приложений искусственного интеллекта, ориентированных на человека.

Google и Facebook финансируют большую часть исследований ИИ, это создает множество проблем.

На однодневном симпозиуме, сопровождающем открытие центра, спикеры от соучредителя Microsoft и филантропа Билла Гейтса до бывшего руководителя Google Фэй-Фэй Ли (Fei-Fei Li) и множества других лидеров в этой области высказали свои мнение об искусственном интеллекте и о мерах которые уже сейчас необходимо принять, чтобы эта технология не вышла из-под контроля.

 Открытии нового центра искусственного интеллекта при Стэнфордском университете (HAI).

Глобальный характер процесса

Билл Гейтс сказал во время своего основного выступления Стэнфордский институт искусственного интеллекта, ориентированного на человека, междисциплинарный научно-исследовательский и учебный центр, посвященный использованию искусственного интеллекта для глобального блага, для обучения правительства наряду со студентами.

«Надеюсь, что такие вещи, как ваш институт, привлекут законодателей и представителей исполнительной власти, может быть, даже нескольких судей, чтобы ускориться в этих вещах, потому что темпы и глобальный характер этого процесса и тот факт, что он действительно находится вне рук правительства, сделать это особенно сложно». , — сказал Гейтс.

Гейтс был основным докладчиком, и проникновенно говорил, о своих страхах перед ИИ и своих надеждах на него, провел аналогию между искусственным интеллектом и ядерным оружием. По его мнению, люди должны развивать технологии ИИ в более мирных сферах, например, в образовании и медицине, в противном случае нас всех может ждать беда.

Фэй-Фэй Ли со-руководить нового Стэнфордского института искусственного интеллекта (HAI).

Гейтс сказал, что ИИ может ускорить научный прогресс. «Это шанс — будь то управление, образование, здравоохранение — ускорить прогресс во всех науках», — сказал Гейтс.

Google и Facebook создают проблему и не учитывают риски

Искусственный интеллект — это, по сути, программное обеспечение на основе алгоритмов, которое может «видеть», «слышать» и «думать» способами, которые часто имитируют человеческие процессы, но быстрее и теоретически, более точно. Однако быстрый прогресс в области ИИ вызвал растущую обеспокоенность этической стороной этого вопроса, т.е.той возможностью которую предоставляют алгоритмам в принятии серьезных решений для человека.

Соучредитель Microsoft и филантроп Билл Гейтс.

«Это уникальное время в истории — мы являемся частью первого поколения, которое увидело, как эта технология мигрирует из лаборатории в реальный мир с такими масштабами и скоростью», — сказалв со-директор института Фэй-Фэй Ли аудитории. Но, по ее словам, «интеллектуальные машины могут причинить вред». Возможные ловушки включают: сокращение рабочих мест, «алгоритмический уклон», возникающий из-за данных, зараженных человеческими предрассудками, и угроз частной жизни и безопасности.

«Это технология, которая может изменить историю всех нас. Вопрос в том, «можем ли мы иметь хорошее без плохого?», — сказала она.

Открытии нового центра искусственного интеллекта при Стэнфордском университете.

Можем ли мы получить хорошее без плохого?

На этот вопрос еще предстоит ответить, сказала Сьюзен Этей, профессор экономики технологий в бизнес-школе университета. «Если бы мы знали все ответы, нам не нужно было бы основывать институт», — сказала Этей в интервью. «Мы пытаемся разобраться с вопросами, над которыми ни одна дисциплина не имеет монополии. Что мы хотим сделать, так это убедиться, что у нас есть лучшие умы, изучающие эти вопросы ».

Появление искусственного интеллекта может радикально изменить нашу жизнь.

Эти умы будут поступать из школ и факультетов Стэнфорда, включая информатику, медицину, юриспруденцию, экономику, политологию, биологию, социологию и гуманитарные науки. Докладчики симпозиума сообщили, что междисциплинарная структура института позволит исследователям, студентам и преподавателям исследовать влияние ИИ на жизнь человека и окружающую среду. «Искусственный интеллект должен вдохновляться человеческим интеллектом, но его развитие должно руководствоваться его влиянием», — сказал президент университета Марк Тессиер-Лавин.

Поскольку центр расположен в университете, студенты и преподаватели могут создавать совместные проекты, которые «позволяют людям узнавать об искусственном интеллекте, в то же время улучшая общественное благо», сказал Этей.

Искусственный интеллект — новая эра может приблизить нас к нашей общей мечте о создании лучшего будущего для всего человечества.

Спикеры заявили, что области, созревшие для развития, стимулируемого ИИ, включают медицину, климатологию, реагирование на чрезвычайные ситуации, управление и образование. По словам докладчиков, эта технология обещает расширить человеческий интеллект, помогая врачам диагностировать заболевания или помогая учителям обучать детей.

По словам Тристана Харриса, исполнительного директора Центра гуманных технологий и бывшего специалиста по этике дизайна в Google, удержание разработчиков ИИ подотчетными за то, что делает их технология, до сих пор не решено. «Если Google и Facebook финансируют большую часть исследований ИИ, то это создает множество проблем», — сказал Харрис. «Нам нужна структурная ответственность».

Губернатор Калифорнии Гэвин Ньюсом закрыл симпозиум довольно мрачно: «Мы переходим от чего-то старого к чему-то новому, и мы, как общество, не готовы к этому».

Из выступления Билла Гейтса

Возможности и проблемы

Существует значительный риск того, что мы разработаем мощные системы искусственного интеллекта, которые будут вести себя неконтролируемо.

Несмотря на риски, исследователи с энтузиазмом приступили к изучению возможностей системы искусственного интеллекта, совершив несколько значительных прорывов за последние несколько месяцев. Почему это? Вероятно, существует множество стимулов — прибыль, слава, внутренняя конкуренция — но одной из причин, безусловно, является вера в то, что ИИ обладает потенциалом для получения огромных выгод, соизмеримых с его огромными рисками.

«В мире еще не было так много технологий, одновременно многообещающих и очень опасных», заявил Гейтс на конференции, упомянув энергию атома в качестве одного из положительных примеров полезной технологии, которая вскоре была омрачена появлением на ее основе ядерного оружия. В то же время он посетовал, что в тех областях, где ИИ смог бы принести настоящую пользу человечеству, реальных результатов пока очень мало. По его мнению, медицина и образование — те сферы, где ИИ мог бы реально помочь людям.

«Это шанс вывести социальные науки на новый уровень, начав все с самого главного — образования», — отметил миллиардер, многие годы выражающий волнение по поводу рисков, связанных с ИИ.

Укоренный темп развития искусственного интеллекта, поддерживаемый технологией нейронных сетей, имитирующих работу человеческого мозга, уже произвел революцию в технологической сфере. Теперь ИИ и нейронные сети используются везде: начиная от биометрических систем идентификации людей, и заканчивая анти-спам фильтрами для электронной почты. Однако Гейтс не хочет, чтобы преимуществами, которые может предоставить искусственный интеллект, могли пользоваться только лишь такие технологические гиганты как Amazon, Google и Facebook.

«Очень беспокоит непрозрачность большинства текущих проектов, направленных на разработку и развитие систем глубокого машинного обучения».

В качестве одного из положительных примеров использования ИИ в медицине он привел работу частной американской биотехнологической компании 23andMe, которая занимается анализами генетических данных. По словам Гейтса, использование искусственного интеллекта позволило определить связь между нехваткой селена (необходимого для жизни микроэлемента) в организме и случаями преждевременных родов у женщин в Африке. В течение ближайших 18 месяцев исследователи узнают, сможет ли принятая по этому поводу программа терапии помочь по прогнозам более 20 000 африканским женщинам.

«Ожидается, что принятые меры должны примерно на 15 процентов сократить уровень преждевременной рождаемости, что в целом позволит сохранять около 80 000 жизней лишь для одной Африки», — добавил Гейтс.

Что касается образования, Гейтс надеется, что ИИ сможет помочь выработать более эффективные подходы к обучению.

«К сожалению, сейчас мы практически игнорируем мотивационные аспекты образования. Не пытаемся разработать программы, направленные на повышения интереса и вовлеченности студентов к обучению, не исследуем вопросы, связанные с новыми методами обучения. А ведь все это может помочь нам улучшить нашу образовательную систему, а также сократить процент учащихся, решивших бросить школу», — прокомментировал Гейтс.

Выступая на конференции Гейтс также отметил, что США почти утратили технологический отрыв от других стран в сфере разработки технологий искусственного интеллекта: «США занимали уникальное положение в вопросах большинства подобных прорывных технологий. Однако уже сейчас лидерство нашей страны становится менее очевидным», — отметил Гейтс.

По его мнению, уже через 10 лет США может занять роль догоняющих, поскольку ведущие научные исследования, направленные на понимание, например, тех же преимуществ использования ИИ в областях биологии и медицины будут проводиться уже не в Америке.

Также он отметил, что сегодняшние внутренние механизмы работы ИИ-систем малопонятны.

«Очень беспокоит непрозрачность большинства текущих проектов, направленных на разработку и развитие систем глубокого машинного обучения», — прокомментировал Гейтс.

Обучать – научились, а вот оценить результат сложно. Кто возьмет на себя ответственность при серьезном сбое?

Источник

Интересное по теме