Эрвин Юрьевич Цейхнер
Конец индивидуума
Путешествие
философа в страну искусственного интеллекта
Гаспар Кёниг (Gaspard Koenig)
Что ждет человека и его право на свободный выбор в век искусственного интеллекта? Чтобы ответить на этот насущный вопрос, французский философ Гаспар Кёниг предпринял кругосветное путешествие и познакомился с сотней ведущих специалистов по ИИ, хранящих ключи к будущему. Кёниг уверен, что страх перед потерей работы из-за распространения GPT-моделей – лишь верхушка айсберга: куда важнее, что они бросают вызов нашим представлениям о знании, творчестве и свободе воли. Безудержный рост ИИ уже несет нам власть без демократии, искусство без художника, экономику без рынка и справедливость без правосудия. Эта наполненная юмором и надеждой книга поможет вам разобраться, какие возможности открывает человечеству эпоха ИИ и какие опасности она таит.
Предыдущая статья: «ИИ не стремится достичь человеческого уровня. Он развивает
инопланетный тип интеллекта»
31.10.2024
Революция в области искусственного интеллекта ускоряется. Сегодня мы все
чаще встречаем как пророчества о конце света, вызванном ИИ, так и утопические
размышления о будущем, пишет израильский историк и мыслитель Юваль
Ной Харари в колонке для Financial Times. Чего же нам по-настоящему
стоит бояться?
Предлагаем вашему вниманию краткий пересказ колонки.
Привычное нам видение таково: человечество ждет восстание ИИ и роботов.
Последние захватывают контроль над миром и порабощают или и вовсе уничтожают
человечество. Так, по крайней мере, говорится в научно-фантастических фильмах и
книгах.
Харари считает этот сценарий крайне маловероятным: «Такой технологии
просто нет. В настоящее время ИИ — идиоты-ученые».
Возможно, они освоили некоторые узкие области (игра в шахматы или
составление текстов), но им не хватает общего интеллекта, необходимого для
создании армии роботов и захвата контроля над страной, объясняет он. К
сожалению, маловероятность этого сценария не означает, что людям нечего
бояться.
Но бояться нужно не роботов-убийц, а цифровых бюрократов. И вот как
израильский историк и мыслитель обосновывает свою теорию…: https://republic.ru/posts/114046
ИИ-2041
Десять образов нашего будущего
«Будущее уже настало — просто оно не очень
равномерно распределено». Эпоха изобилия, новые экономические
модели дефицита и постдефицита, будущее денег, сингулярность.
Искусственный
интеллект станет определяющим событием XXI века. В течение двух
десятилетий все аспекты повседневной жизни станут неузнаваемыми.
ИИ приведет к беспрецедентному богатству, симбиоз человека
и машины приведет к революции в медицине и образовании
и создаст совершенно новые формы общения и развлечений. Однако,
освобождая нас от рутинной работы, ИИ также бросит вызов
организационным принципам нашего экономического и социального порядка.
ИИ принесет новые риски в виде автономного оружия
и неоднозначных интеллектуальных технологий. ИИ находится в переломном
моменте, и людям необходимо узнать как его положительные черты ИИ,
так и экзистенциальные опасности, которые он может принести.:
Кай-Фу Ли и Чэнь Цюфань https://www.mann-ivanov-ferber.ru/books/ai-2041/
AI как опасно!
Зачем американская
администрация берет под контроль развитие искусственного интеллекта
31 октября 2023 Григорий Волков
Президент США Джозеф Байден выпустил указ: https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/ , призванный передать под контроль государства разработки в сфере искусственного интеллекта. Американские СМИ уже классифицировали его как одну из самых агрессивных и масштабных регуляторных норм в национальном законодательстве. На принятии подобного указа настаивали сами крупнейшие игроки отрасли.
Что произошло
Белый дом объявил о
подписании президентом Байденом исполнительного указа,
регламентирующего развитие технологий в сфере искусственного интеллекта.
111-страничный документ призван в числе прочего «установить новые стандарты в
сфере безопасного развития ИИ, защитить частную жизнь американцев, помочь в
продвижении равенства и гражданских прав, защитить интересы потребителей,
способствовать развитию инноваций и конкуренции».
Замруководителя аппарата
Белого дома Брюс Рид назвал указ
«самым решительным набором мер» из всех, что когда-либо были предприняты
правительствами для безопасного развития ИИ.
Предшествующее подписанию
указа заседание экспертной комиссии, состоявшееся в прошлый четверг в Овальном
кабинете Белого дома, вместо отведенных 30 минут продлилось более часа,
несмотря на известие о
массовой стрельбе в штате Мэн, войну на Ближнем Востоке и выборы нового спикера
Палаты представителей Конгресса США.
ЧИТАЙТЕ ТАКЖЕ
Чат-бот, который всех
напугал
На какой стадии сегодня
находится развитие искусственного интеллекта и стоит ли нам опасаться восстания
машин
Как указ будет работать
Указ состоит из восьми
частей, исполнять которые поручено конкретным федеральным ведомствам при
содействии компаний отрасли. Министерству торговли предстоит разработать и
внедрить руководство по маркировке и нанесению водяных знаков на контент,
созданный с помощью ИИ, чтобы потребители могли легко его распознать.
Национальному институту стандартов и технологий поручено создать стандарты для
тестирования безопасности инструментов ИИ перед их выходом на рынок.
Министерства энергетики и внутренней безопасности рассмотрят потенциальные
угрозы со стороны ИИ критически важной инфраструктуре и предложат способы их
устранения. Также администрация США обязуется разработать инструменты для
адаптации рынка труда к последствиям развития ИИ,
поддерживать грантами
наиболее перспективные разработки и упростить въезд в страну и трудоустройство
высококлассным специалистам в сфере искусственного интеллекта.
Ведущие разработчики систем
на основе ИИ, значимых с точки зрения национальной безопасности, экономики и
здравоохранения, теперь обязаны делиться с правительством результатами
проводимых тестов на безопасность своих продуктов. Реализовать установленные указом
меры планируется в течение года.
Что предшествовало
подготовке указа
В июле Байден встретился в Белом доме с
руководителями семи крупнейших компаний в сфере искусственного интеллекта,
включая Amazon, Google, Meta, Microsoft и OpenAI. В ходе беседы топ-менеджеры
взяли на себя комплекс добровольных обязательств, который отчасти и лег в
основу нынешнего закона. В числе прочего они обязались выполнять тестирование
своих продуктов на предмет потенциальных рисков с точки зрения биологической и
кибербезопасности и возможных угроз обществу. При этом такие тесты должны
проводиться с привлечением сторонних экспертов — особенно болезненная мера,
учитывая остроту конкуренции в отрасли. Также речь шла о более отдаленных
угрозах, связанных с будущими моделями ИИ, потенциально способными
самовоспроизводиться и брать под контроль физические объекты. Кроме того, топ-менеджеры
согласились самостоятельно обнародовать выявленные в ИИ-системах риски и
недостатки.
Почему это важно
За последние семь лет
инвестиции в компании, работающие в сфере ИИ, выросли в
семь раз, превысив в 2022 году 91 млрд долларов США. Американский банк Goldman
Sachs прогнозирует,
что к 2025 году эта сумма достигнет 200 млрд. Всплеску инвестиций сопутствуют
многочисленные предостережения со стороны экспертов и лидеров бизнеса о
потенциальных угрозах из-за неконтролируемого развития ИИ.
Следом за выходом в начале
этого года большой языковой модели GPT-4, способной свободно поддерживать
беседу, сочинять песни и писать диссертации, группа из нескольких сотен
экспертов, предпринимателей и исследователей, включая Илона Маска и Стива
Возняка, опубликовала открытое письмо
с призывом приостановить разработку более совершенных систем, по крайней мере
до появления соответствующей регуляторной базы.
«Продвинутый ИИ может повлечь
за собой глубокое изменение всей человеческой истории, и его следует
планировать со всей тщательностью. […]
Мощные системы искусственного
интеллекта следует разрабатывать только после того, как мы будем уверены, что
их воздействие будет положительным, а риски — управляемыми»,
— говорится в документе, который
на момент подготовки публикации подписали более 33 тысяч человек.
По словам Джона
Рида, американский президент крайне вовлечен в тему искусственного интеллекта.
«Он был впечатлен и
встревожен […]. Он увидел созданные ИИ поддельные изображения самого себя,
своей собаки, увидел, насколько скверная история из-за всего этого может
случиться. А еще он познакомился с невероятной и пугающей технологией
клонирования голоса, способной за три секунды составить из звуков вашего голоса
полноценный фальшивый разговор», — сказал чиновник.
https://novayagazeta.eu/articles/2023/10/31/ai-kak-opasno
"Угроза
катастрофического уровня"
28
стран подписали декларацию об опасности искусственного интеллекта. Чего боятся
в первую очередь?
4 ноября 2023 года
28 стран, включая США и Китай, подписали совместную декларацию об угрозах искусственного интеллекта: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023
Чего опасаются больше всего?
США, ЕС, Великобритания и
Китай подписали совместную декларацию, в которой назвали искусственный
интеллект угрозой катастрофического уровня. А термин Artificial intelligence
стал словом года по версии британского словаря Collins. По данным британских
филологов, в этом году его использовали в четыре раза чаще, чем раньше. Но
ладно бы только говорили. Его, похоже, будут применять буквально везде.
Ведущие технологические
гиганты, например Google, выделяют миллиарды долларов на стартапы с
искусственным интеллектом. В Великобритании правительство отчитывается, что
разработано программное обеспечение с искусственным интеллектом, которое будет
искать военно-инженерные решения для вертолетов. Российское правительство
собирается внедрить системы искусственного интеллекта для проверки домашних
заданий в школах. А известный немецкий таблоид Bild уже сейчас сокращает своих
журналистов, потому что заменяет их на искусственный интеллект. А
правительства, ученые и даже монархи по всему миру предупреждают: искусственный
интеллект может быть опасен.
"Существует очевидная необходимость гарантировать, что эта быстро
развивающаяся технология останется безопасной и надежной. А поскольку ИИ не
уважает международные границы, эта миссия требует международной координации и
сотрудничества для поддержки глобальных усилий", – заявил король
Великобритании Карл III.
Ровно с этой целью – выработать совместную политику по безопасному
использованию искусственного интеллекта – в Великобритании провели первый
глобальный саммит. Первого и второго ноября технологические гиганты, эксперты и
политики обсуждали, как дальше жить.
Миллиардер Илон Маск, известный своими проектами по освоению космоса, предложил создать некий независимый арбитраж, который будет контролировать использование искусственного интеллекта технологическими компаниями. И если у арбитра возникнут опасения, он забьет тревогу. А тревожиться, по мнению Маска, можно начинать прямо сейчас: "Впервые в истории человечества мы столкнулись с чем-то, что будет гораздо более разумным, чем мы. Поэтому мне не ясно, можем ли мы на самом деле контролировать такую вещь, но я думаю, что мы можем стремиться направлять ее в том направлении, которое выгодно человечеству. Я думаю, что это один из экзистенциальных рисков, с которыми мы сталкиваемся, потенциально самый серьезный".
На полях этого саммита даже Китай согласился работать с Соединенными Штатами,
Европейским союзом и другими странами, чтобы коллективно управлять рисками,
связанными с искусственным интеллектом. 28 стран подписали первую совместную
декларацию об опасности ИИ.
“От ИИ, обеспечивающего кибератаки в масштабах, превосходящих все, что мы
видели раньше, до создания искусственным интеллектом биологического оружия,
которое может поставить под угрозу жизни миллионов людей. Эти угрозы часто
называют экзистенциальными угрозами ИИ, поскольку, конечно, они могут поставить
под угрозу само существование человечества", – объяснила Камала Харрис,
вице-президент США. Однако невозможно не поговорить и о потрясающих
возможностях ИИ.
К примеру, искусственный интеллект открывает новые горизонты в понимании китов.
Они, оказывается, общаются между собой посредством двухсекундных щелчков. И уже
существует проект, который планирует записывать эти щелчки с помощью плавающих
датчиков, а потом отдавать на анализ и расшифровку искусственному интеллекту.
Если вернуться к людям, то
уже сейчас каждый из нас может записывать видео на нашем родном языке и легко
переводить их на любой другой с помощью приложений с ИИ. Это невероятно
расширяет наши возможности для создания контента и общения.
Британский словарь Collins, тот самый, который назвал artificial intelligence
словом года, дал такое определение: искусственный интеллект – это
"моделирование психических функций человека с помощью компьютерных
программ". А Ассоциация американских психологов даже выпустила об этом
статью. В ней сказано, что ИИ уже сейчас меняет все аспекты психологии.
Например, некоторые терапевты в своих клиниках используют искусственный
интеллект для административной работы. ИИ ведет заметки и помогает обучать
новых врачей. ИИ используют для улучшения прогнозов, диагностики и лечения
психических заболеваний. И уже существует куча приложений, которые имитируют
психологическую помощь.
Какие задачи может решить искусственный интеллект?
20+ задач, которые решаются искусственным
интеллектом
- Ответ на любой вопрос
- Распознования лиц:
- Создание картин:
- Создание уникальных текстов:
- Написание музыки
- Медицина
- Имитация человека
- Биржевая торговля
- ….
Искусственный интеллект может повысить эффективность мировой экономики, но распределение полученных выгод, скорее всего, будет неравномерным. Внедрение ИИ способствует еще большему отставанию развивающихся стран от развитых, тем самым усиливая и без того высокий цифровой разрыв между государствами.
Каким образом искусственный интеллект применяется в управлении?
Роль
ИИ в сфере управления кадрами и руководстве:
cистемы могут распознавать речь, анализировать
фотографии и использовать методы сопоставления с
образцом для определения настроения, честности и даже черт характера.
Где сейчас применяется искусственный интеллект?
Системы
ИИ с помощью камер и датчиков движения способны следить за порядком на
улицах города и в местах массового скопления людей, прогнозировать
возникновение опасных ситуаций и даже опознавать преступников. Также умные
системы способны с точностью проводить сверку документов, предупреждать кражи.
Чем может помочь искусственный интеллект?
ИИ
все лучше осуществляет перевод текста в речь и речи в текст, и
поэтому может помогать людям с нарушениями зрения или слуха в
использовании информационно-коммуникационных технологий (ИКТ). ИИ уже помогает
создавать "умные" устойчивые города.
Какую проблему решает искусственный интеллект?
Чаще
всего это расчёты графиков техобслуживания, контроль качества, оптимизация
производственных процессов и цепочек поставок, а также обеспечение
безопасности.
Распознования лиц:
В iPhone распознавание
лиц разработано с использованием нейросетей – варианта системы искусственного
интеллекта.
Нейросети выполняют до 60
млрд операций в секунду. Этого достаточно, чтобы проанализировать до 40 тыс.
ключевых точек на лице и обеспечить исключительно точную идентификацию
владельца за доли секунды.
Создание картин:
Творчество, ранее
доступное лишь человеку, открыто и для ИИ. Так, система, созданная
исследователями из Университета Рутгерса в Нью-Джерси и лаборатория AI в
Лос-Анджелесе, представила собственный художественный стиль.
Создание
уникальных текстов:
Генерация текста
нейросетью ускорит работу копирайтеров, журналистов, SEO-специалистов,
редакторов, SMM, и всех тех, кому необходимо ежедневно «производить» тонны
контента. Retext. Ai может перефразировать любой текст и создать 100%
уникальность. Также сервис предлагает воспользоваться синонимами, сократить или
увеличить текст на нужное количество символов или написать текст с упоминанием
определенных слов для поисковой выдачи.
Настоящая находка для
специалистов, которым нужно написать быстро оригинальный текст. При этом смысл
и содержание ни сколько не страдает.
Написание
музыки
В августе искусственный
интеллект Amper сочинил, спродюсировал и исполнил музыку для альбома «I AM AI»
(англ. я — искусственный интеллект) совместно с певицей Тэрин Саузерн.
Amper разработала команда
профессиональных музыкантов и технологических экспертов. Они отмечают, что ИИ
призван помочь людям продвинуть вперед творческий процесс.
Медицина
Wave Clinical Platform от
ExcelMedical. Система следит за жизненными показателями пациента и
предупреждает врачей за шесть часов до его возможной скоропостижной смерти.
Платформа системно анализирует информацию и рассчитывает риски неблагоприятного
исхода.
Имитация
человека
Роботы, наделённые
искусственным интеллектом, уже могут имитировать человеческую мимику. К
примеру, Facebook AI lab разработала интеллектуального анимированного бота и
обучила его на сотнях записей видеозвонков Skype.
Биржевая
торговля
Группа исследователей из
университета Эрлангена-Нюрнберга в Германии разработала ряд алгоритмов,
использующих архивные данные рынков для тиражирования инвестиций в режиме
реального времени. Одна из моделей обеспечила 73% возврата инвестиций ежегодно
с 1992 по 2015 год, что сопоставимо с реальной рыночной доходностью на уровне в
9% в год.
Автоматическая обработка обращений
клиентов
Эффективно работающие
программы позволяют без ошибок обрабатывать до 96% входящих запросов, дают
возможность заместить часть операторов колл-центра и снизить его нагрузку до
40%.
Классификация
входящих сообщений
После обучения ИИ на
основе анализа 30 тысяч запросов точность классификации входящих обращений
составила 83%, экономия времени на их обработку — 50%. В результате
министерство смогло освободить квалифицированных юристов от рутинной работы.
Конкурентная разведка
Искусственный интеллект
помогает проводить комплексный анализ конкурентов, собирая информацию из
множества открытых источников. Затем эти данные можно использовать для
улучшения собственной компании и получения преимущества на рынке.
Реклама
Речь идет о той самой
рекламе, которая постоянно возвращает нас к тем товарам, характеристики которых
мы недавно изучали. На поисковиках предлагаются вещи, к которым проявили
интерес пользователи. Машиной изучаются покупательские пристрастия человека, а
потом предлагаются релевантные (по их мнению) товары.
Искусственный интеллект на транспорте и
в логистике
В Екатеринбурге на основе
искусственного интеллекта создана «умная» дорожная система. Она представляет из
себя механизм регулировки транспортных потоков, разгрузки дорог и обеспечения
бесперебойного движения наземного пассажирского транспорта. Одновременно с этим
система фиксирует нарушения и отправляет штрафы. Информация поступает с
детекторов транспорта, комплексов фото- и видеофиксации, бортового оборудования
и других устройств.
Финансы
Главные функции этой
технологии – повышение точности подтверждения финансовых операций и снижение
вероятности ложных отклонений при переводе средств. Система работает на базе
нейросети. При анализе финансовых операций обрабатываются большие объемы данных
из подключенных к системе источников.
Берутся во внимание
многочисленные факторы, включая тип покупки клиента, его местоположение и время
суток. Таким образом минимизируется количество ложных срабатываний встроенной
системы безопасности, «обычные» транзакции проходят без проблем.
Ритейл
и бизнес
С 2017 года в магазинах
сети стали работать роботы Bossa Nova. Они три раза в день инспектируют все
отделения супермаркетов, проверяя полки магазинов на наличие всего
ассортимента, неправильных ценников или скупленных продуктов. Сбор и анализ
информации происходит благодаря специально разработанному программному
обеспечению с элементами искусственного интеллекта. Данные передаются в отдел
логистики.
Оборона
и военное дело
Внедряют ИИ и в военно-промышленную
сферу. В 2018 году стало известно, что в армии США ведутся разработки системы,
которая сможет распознавать лица людей в темноте и сквозь стены, посредством
тепловизора. Главным ее назначением станет выявление главарей банд в локациях,
где проходят военные действия.
Космические системы
Один из примеров – робот
NASA Curiosity, предназначен для исследования состава марсианских почв и
компонентов атмосферы. Благодаря наличию ИИ, Curiosity может не только изучать
местность, но и запоминать безопасные пути, а также прокладывать новые маршруты
с учетом ранее полученных знаний о характере почвы или грунта.
ИИ
в спорте
Организаторы команд по
бейсболу, футболу и баскетболу анализируют индивидуальные данные игроков, их
технику, физическое состояние. Искусственный интеллект, используя эти данные,
помогает предсказать потенциал спортсменов.
Другой пример
использования ИИ-технологий – прогнозирование результатов матчей. Специальные
системы созданы компаниями UBS, Commerzbank и Microsoft. При проведении
расчетов учитываются многие факторы, например, опыт и физическое состояние
игроков, погодные условия, место проведения встреч. Все это используется для
составления спортивных прогнозов.
Умный
дом
Интеллектуальный дом —
это здание, которое имеет систему датчиков, детекторов и один интегрированный
механизм, который отвечает за управление всеми установками в здании. Членам
семьи, использующие это «устройство», гарантируются не только большой комфорт,
но и безопасность, а также низкие эксплуатационные расходы. Все это благодаря
интегрированной системе автоматизации, которая работает в сети связи.
Дорожное
движение.
В транспорте и логистике
устройства на основе ИИ ценны способностью обрабатывать гигантские объемы
данных. С внешних устройств (например, светофоров) собираются влияющие на
трафик данные о плотности движения, погодных условиях, количестве и точках ДТП
и т. д. искусственный интеллект анализирует данные и, в зависимости от итогов,
регулирует дорожное движение, что позволяет избежать пробок и аварий.
Также ИИ способен
приходить на помощь – вызвать эвакуатор, машину «скорой помощи» при
необходимости. По статистике, 90% аварий происходят по причине человеческой
ошибки. Вероятно, внедрение искусственного интеллекта сохранит многие жизни.
Будущее
Мозговой имплантат
изменил ее жизнь. Или как мы можем стать зависимы от ИИ и почему нужны
нейроправа.
Введение электрода в мозг
человека может сделать больше, чем лечить болезнь. Возьмем, к примеру, Риту
Леггетт, австралийку, чей экспериментальный мозговой имплантат изменил ее
чувство свободы воли и самоощущение. Она сказала исследователям, что «стала
единым целым» со своим устройством. Она была опустошена, когда два года спустя
ей сказали, что…
Искусственный
интеллект как добро и зло
Некоторые скажут, что наша цивилизация
переживает экстраординарный времена процветания. Другие предсказывают
неизбежный конец в ближайшем антиутопическом будущем. Есть и сторонники мнения,
что все примерно одинаково: войны и эпидемии чередуются с лучшими и более
спокойными временами.
https://vc.ru/u/1380581-maksim-belov/590134-20-zadach-kotorye-reshayutsya-iskusstvennym-intellektom
Чего добьется искусственный интеллект в 2022 году? Мощные прорывы и причины неудач
Каковы перспективы ИИ
на ближайший год согласно двум крупным отчетам: State of AI Report и The Great
AI Reckoning?
Отчеты о достижениях
ИИ не всегда касаются одного лишь прогресса технологии. Исследователи фиксируют
и препятствия, которые могут вызвать пробуксовку или вовсе перекрыть некоторые
направления развития. Каковы перспективы ИИ на ближайший год согласно двум
крупным отчетам: State of
AI Report и The great AI reckoning, которые вышли осенью 2021
года?
Прорывы ближайшего будущего
В некоторых областях
эксперты прогнозируют мощный качественный прогресс ИИ. Об этом регулярно
сообщает State of
AI Report — отчет Натана Бенайха и Яна Хогарта,
двух серийных инвесторов в ИИ-стартапы. Во второй половине года вот уже в
течение трех лет они выпускают отчеты о прорывах в совершенствовании и
применении ИИ, которые совершают коммерческие и экспериментальные проекты.
Каждый отчет состоит из обзора уже свершившихся достижений — это смесь
подведения итогов года и прогнозов на будущее. Последние особенно любопытны.
Прогнозы свежего
отчета, как всегда, лаконичны — тем интереснее будет наблюдать за их
осуществлением (или нет):
1. Сети типа transformers вытеснят классические рекуррентные
нейросети в сфере самообучающихся игровых ботов, смогут
адаптироваться в сложных средах и превзойдут человеческие способности.
2. Капитализация ASML — компании
по производству литографического оборудования для микроэлектронной
промышленности — поднимется с $350 до $500 млрд.
3. Anthropic — ИИ-стартап, отделившийся от OpenAI, в
который Хогарт и Бенайх инвестировали лично — заявит о себе и станет третьим
игроком в погоне за сильным искусственным интеллектом.
4. Как минимум одна из компаний-разработчиков
специализированного харда для обучения ИИ: Graphcore, Cerebras, SambaNova,
Groq, Mythic — будет куплена крупной технологической корпорацией (возможно,
Nvidia) или производителем полупроводников.
5. Нейросети-гибриды с архитектурой transformers
позволят при распознавании изображений уменьшить число параметров в моделях
обучения в 10 раз, без какой-либо потери точности.
6. DeepMind — компания, стоящая за AlphaFold,
совершит крупный прорыв в физике.
7. Библиотека глубокого обучения и структура
JAX от той же DeepMind будет использована в 5% новых
репозиториев на PapersWithCode.
8. Появится новая исследовательская компания,
сфокусированная на сильном ИИ, обладающая развитой средой разработки и дорожной
картой.
Сбывшиеся прогнозы State of AI Report 2020
Предсказательную силу
отчетов Бейнаха и Хогарта показывают уже сбывшиеся прогнозы из предыдущего
выпуска 2020 года и смежные с ними прорывы: из восьми прогнозов прошлого года
шесть (с некоторыми допущениями семь) осуществились.
Выход на биржу компаний с лекарствами, созданными при помощи ИИ, с капитализацией более миллиарда долларов
Компания Excientia из
Великобритании, использующая ИИ в разработке лекарств, вышла на биржу NASDAQ с капитализацией более $3
млрд. Они уже
испытывают на людях препарат, призванный восстановить функции лимфоцитов в раковых
опухолях, где те подавляются выделяемым опухолью аденозином. Кроме того,
компания имеет несколько веществ-кандидатов для лечения
некоторых нежелательных воспалительных процессов.
Еще одно направление
работы: компания применяет ИИ Allcyte для подбора лекарств из списка уже
лицензированных. Дело в том, что подобранные онкологами лекарства часто
оказываются неподходящими. Allcyte, применяемый для ИИ-микроскопии, смог
улучшить долю пациентов с положительным ответом на лекарственную терапию до 55%
в экспериментальной группе с ~10% у врачей при первой попытке подбора. Это, безусловно,
позволит выиграть время для пациента.
Другие компании, такие
как Recursion, Anagenex, LabGenius,
тоже используют ИИ для разработки лекарств, вплоть до поиска оптимизированной
молекулярной структуры. Так что в перспективе ИИ позволяет сделать еще один шаг
к массовой и доступной персонализированной медицине.
Прорыв AlphaFold в структурной биологии
Алгоритм AlphaFold2 в
конце 2020 года, спустя буквально месяц после предыдущего отчета, показал на конкурсе CASP14 рекордную за все время точность
предсказания структуры белков. Положение атомов в двух третях используемых на
конкурсе белков AlphaFold2 определял с точностью более 90% (на конкурс
отбираются самые сложные для предсказания структуры). Проект продолжает
совершенствоваться, а его исходный код и огромная библиотека определенных
заново белков выложены в открытый доступ.
Это поможет исследователям из множества областей: эволюционной биологии,
протеомики, вирусологии и прочих.
Возможности AlphaFold2
были проверены на коронавирусе, с некоторым успехом предсказав структуры
нескольких его белков. И хотя AlphaFold, о котором журнал «Будущее» писал
ранее, уже внес в структурную биологию большой вклад, команда
признает, что полученные результаты далеки от их применения в терапии
заболеваний и алгоритм все еще имеет ряд ограничений.
Два сбывшихся прогноза
на тему применения ИИ в биологии из отчета 2020 года обнадеживают. Потенциально
с его помощью можно полностью перевернуть роль современной биологии, сделав ее
наукой с высокой предсказательной силой, и резко расширить ее практическое
применение, как в XX веке это произошло с вычислительной техникой.
Обновление рекордов в компьютерном зрении за
счет нового метода
Из отчета 2020 года
успешными оказались и предсказания в области машинного обучения. Обычно при
распознавании изображений используется разбиение всего изображения на слои
(каналы) и пиксельный анализ. У этого метода есть ряд недостатков. Специалисты
Google попробовали применить для распознавания изображений метод visual transformers (родственный подход ранее
использовался в анализе и синтезе текстов) и достигли впечатляющих результатов.
Точность распознавания объектов на изображениях возросла до 90%, попав на
первое место при работе с изображениями проекта ImageNet. В
следующем году авторы прочат еще больший успех методу transformers — на этот
раз в игровых средах.
Первая модель обучения с более чем десятью
триллионами параметров
Компания
Microsoft продемонстрировала способность обучить модель с
32 трлн параметров. Но остается непонятным, сможет ли она быть лучше, чем
предыдущие модели, и покрывают ли эти улучшения издержки.
NVIDIA не завершает приобретение Arm
Конкретные
предсказания по поводу бизнес-процессов оказались более-менее успешны: верным
осталось утверждение, что Nvidia не успеет до октября 2021 выкупить Arm,
одного из самых крупных разработчиков микроэлектроники, — ее технология лежит в
основе чипов, которые используются в большинстве смартфонов, выпускаемых по
всему миру.
Крупная ИИ-лаборатория закрывается из-за смены
стратегии ее материнской компании
Предсказание оказалось
верным: в рамках реструктуризации, в том числе из-за давления китайского
правительства, Alibaba в начале января 2021-го закрывает свою ИИ-лабораторию.
Facebook совершает прорыв в области AR/VR на
основе компьютерного зрения
Предсказание о прорыве
Facebook авторы нового отчета признали несбывшимся, но спустя всего пару недель
Facebook/Meta анонсировал AR/VR
шлем с экспериментальными технологиями распознавания мимики и перчатки, что можно считать если не прорывом, то по
крайней мере развитием в канве предсказания.
Из восьми прогнозов
отчета 2020 года не сбылся только один: суммарная стоимость оборонных
ИИ-стартапов в Китае и Европе должна была превысить $100 млн до октября 2021
года. Этого не случилось, хотя рано или поздно это должно произойти.
Причины возможных провалов ИИ
Искусственный
интеллект не может развиваться без фатальных препятствий и парадоксальных
заминок. На этом фокусируется другой отчет, значительно более пессимистический
— The Great AI Reckoning (игра слов: Большой
расчет/расплата ИИ).
Отчет выпустила в
конце сентября 2021 года ассоциация IEEE — крупнейшая
международная организация по продвижению инноваций в сфере электроники и
электротехники, насчитывающая сотни тысяч специалистов. В документе прогресс ИИ
рассматривается с позиций неопределенности его будущего и непонимания человеком
процессов, происходящих «внутри» глубоких нейросетей. Согласно этому отчету,
дальнейшее развитие некоторых параметров ИИ на практике упирается в несколько объективных
и возможных сдерживающих факторов.
Рост затрат
Самое жесткое из
препятствий — стремительный рост энергетических затрат,
которые требуются ИИ, чтобы учиться решать задачи со все большей точностью.
Долю ошибок можно сократить, увеличивая сложность расчетов: число операций и
количество параметров. К сожалению, энергетические затраты (измеряемые в
выбросах углекислого газа) растут пропорционально увеличению количества
операций, при этом увеличение точности решения весьма незначительно.
Например, рост
точности обучения в два раза потребовал бы увеличения расходов энергии на
четыре порядка. С учетом роста количества параметров, как у Microsoft в их
модели с 32 трлн параметров, энергозатратность может повышаться еще быстрее.
Пределы производительности
Не обнадеживает и тот
факт, что соблюдавшийся десятилетиями «закон»
Мура, кажется, исчерпал себя. Толщина и емкость кремниевых
транзисторов приблизились к такому пределу, когда на их работу может
влиять квантовое
туннелирование электронов (единицы нанометров), да и машины для
литографии таких крошечных элементов обходятся дороже — как вы помните, в одном
из новых прогнозов State of AI 2021 говорится о росте стоимости компании-производителя
литографического оборудования. Это значит, что производительность компьютеров с
фиксированным энергопотреблением уже приближается к теоретическому пределу для
кремниевой электроники.
Кроме того, рынок
чипов уже явно показал свою нестабильность на фоне
коронавирусного кризиса, повального увлечения майнингом (в случае некоторых
стран — на государственном уровне), быстрого роста цен на металлы, применяемые в
производстве. Добавим сюда изменения климата, вызвавшие засуху на Тайване, где сосредоточена почти вся
индустрия, и нестабильную политическую обстановку вокруг этого острова. Если в
ближайшем будущем эти факторы сойдутся еще менее удачно, проблема чипов может
стать значительно острее, не ограничиваясь дефицитом в производстве «умной техники»
и видеокарт.
Возможный выход из
кризиса видится в сфере квантовых вычислений, разработка харда для которых находится в
надежных руках: этим занимаются IBM, Google, Microsoft, некоторые китайские
компании. Разрозненные исследовательские группы демонстрируют прогресс каждый
год, как и сам ИИ. Но делать ставку на такую сырую технологию, разумеется, не
стоит, считают эксперты.
Нестабильность при решении сложных задач
Еще один важный тормоз
развития — причуды
работы сложных комплексов нейросетей и отсутствие понимания,
как они функционируют, — об этом речь шла в новом экспертном докладе группы
ученых AI100, о нем также писал журнал
«Будущее». Для точного и эффективного решения по-настоящему важных задач
(очередность оказания медицинской помощи, применение в судебной практике) нужны
сложные системы — но они начинают проявлять нестабильность и хаотичность, когда даже небольшой сдвиг
параметров приводит к сбою настроек всей сети.
Это выражается в «забывчивости» нейросетей, постоянном дрейфе параметров и
даже в парадоксальных решениях, противоречащих математике и здравому смыслу: в области анализа и генерации текстов это
может наблюдать рядовой пользователь в открытых
проектах. Другой антипример: ИИ не смог научиться решать даже
школьные математические олимпиады хотя бы с минимально достойной точностью.
К таким последствиям приводит в том числе «лень» нейросетей, которые
могут строить очень короткие пути решения задачи и не отходить от них при
дальнейшей тренировке.
Находить первопричины
ошибок в структуре ИИ очень тяжело: сложные нейросети требуют для своей
деконструкции большие человеческие и вычислительные ресурсы.
Ошибки при решении важных задач
Наконец, еще один
подвох: несмотря на кажущуюся растущую мощь искусственного интеллекта,
применять массово ресурсозатратные наработки невозможно — мы всегда
сталкиваемся с необходимостью экономии ресурсов. И это порождает как
минимум одну из уязвимостей: или решения ИИ контролируются
человеком, когда это по-настоящему важно (например, в случае использования
боевых роботов), или цена ошибки очень мала, как в случае с подбором рекламы.
В тех случаях, когда
ИИ оказывается слишком большое доверие при решении важных задач, ошибки
на больших выборках происходят обязательно: аварии беспилотных автомобилей,
ошибочные аресты из-за сбоев в распознавании лиц и так далее. Авторы отчета
IEEE призывают обратить внимание не на то, что система ИИ может сделать для
вас, а на то, что она может заставить вас сделать по ошибке.
Все это означает, что
людям придется столкнуться с явным торможением развития ИИ в ряде областей. И
здесь есть свои преимущества: скажем, это может сохранить простому
человеку остатки его свободы от отслеживания и относительную безопасность от боевых роботов. Но в долгосрочной
перспективе это угрожает надежности экономик.
Например, США и
Великобритания уже сейчас могут позволить себе техническое внедрение
автоматической доставки на базе ИИ, которая окажется дешевле и быстрее
человеческой доставки, а также решит проблему «последней мили» — самого
дорогого и сложного звена транспортной логистики. Но этот рынок растет
медленно, хотя кризисная ситуация всецело требует экономии.
На устаревшую и
неактуальную бизнес-модель многих ИИ-стартапов также обратили внимание в своем
отчете Бенайх и Хогарт. Поэтому стоит сосредоточиться не только на прорывах
и продвижении ИИ в новые сферы, но и на отслеживании уязвимостей, которые
пока что человеку лучше прикрывать своими силами ради сохранения безопасности.
https://republic.ru/posts/102403
5 ОКТЯБРЯ
«За последние пять лет ИИ совершил огромный
скачок». О
чем еще говорится в новом экспертном докладе группы ученых AI100
Группа экспертов AI100 Стэнфордского
университета с 2015 года занимается мониторингом в области искусственного
интеллекта, ее отчеты — одни из самых важных в этой сфере. Первый документ вышел в 2016 году, второй — под
довольно поэтическим названием «Набирая силу, собирая бурю» — опубликован в сентябре 2021-го.
Цель группы — при
помощи индекса оценивать количественно развитие ИИ и делать это как можно более
многосторонне (по аналогии с промышленным индексом Доу Джонса для фондовых
рынков США). Это нужно, чтобы понимать риски применения ИИ в сфере
нацбезопасности, этики, политики, психологии и науки. Ранее таких
всеобъемлющих оценок ИИ просто не было.
Группа намерена
выпускать индекс каждые пять лет в течение минимум ближайшего столетия, это
закреплено и в названии (AI100). И это редкий пример долгосрочного планирования
исследований. Такой переход к столетним и более горизонтам планирования кажется
важным для выхода из кризиса современной академической науки.
В отчете 2016 года
(журнал «Будущее» писал о нем здесь)
эксперты проследили развитие ИИ с момента первых тезисов Алана Тьюринга об
«умном компьютере» в 1950 году. Группа пришла к выводу, что связанные с ИИ
проекты к 2016 году обогнали человека во множестве прикладных задач, собрали
миллиарды долларов, привлекли всеобщее внимание. Доля позитивных оценок в СМИ и
обзорах на 2016 год составила около 30%, а негативных — около 7%. Число
исследований и специалистов, так или иначе погруженных в вопросы ИИ, с конца
прошлого века увеличилось более чем в девять раз.
16 сентября 2021 года
вышел второй масштабный отчет в двух частях: собственно индекс ИИ и общий отчет группы AI100. Для подготовки нового
документа эксперты собрали данные о реакции на первый отчет и его влиянии.
Обновился состав группы.
В основу самого отчета легли два масштабных семинара с антропологами,
историками, юристами, философами и другими специалистами в гуманитарных и
технических областях. Среди них Барбара Гросс —
профессор в области ИИ в Гарварде, эксперт в сфере языковой обработки, Питер
Стоун — профессор компьютерных наук и председатель консорциума
робототехники в Техасском университете, Винсент Конитцер —
профессор компьютерных наук, профессор экономики и профессор философии
Университета Дьюка и другие ученые.
«Я очень оптимистично
смотрю в будущее и вижу большую ценность для человечества в отношении систем,
которые могут воспринимать, учиться и рассуждать, — комментирует Эрик
Хорвиц, профессор в области ИИ и директор Microsoft Research,
который финансирует исследования AI100. — Однако трудно предвидеть все
возможности и проблемы, поэтому мы должны
неукоснительно наблюдать за процессом».
Рост превосходства ИИ: польза и перспективы
За пять лет с предыдущего доклада эффективность
искусственного интеллекта во множестве областей заметно выросла. Появились новые
направления и вызовы для
ИИ: распознавание
зрительных и воображаемых образов человека, а также команд
через внешние нейроинтерфейсы, «сотрудничество машин» — работа в паре двух
алгоритмов, которые тренируют друг друга, скажем, в распознавании и создании фейковых
материалов. Например, в Facebook был проведен челлендж
по раскрытию дипфейков: его участники при помощи технологий по
тренировке нейросетей всего за три месяца выявили почти все фейки в огромной
базе подделок и настоящих видео, созданной для этой задачи.
Современные алгоритмы
преуспели в распознавании лиц, причем в последние два-три года, отмечается в
индексе, эта технология радикально усовершенствовалась и начала работать на
государственные системы слежения. Рост ее эффективности дошел до того, что теперь
скрыться не помогают даже ковидные маски и хаотично нанесенные на лицо точки и
полосы камуфляжа, а лицо система запоминает с первого раза.
На треть возросла
точность распознавания человеческих поз на фотографиях, улучшилось
распознавание объектов на фото и видео, идентификация действий на видео и
многие другие нюансы «компьютерного зрения». Причем это происходит при кратном
сокращении стоимости программы и времени тренировки.
По сравнению с итогами
2016 года, нейросети достигли лучших результатов в переводах и
распознавании речи, и доступ к этим функциям имеет каждый рядовой
пользователь: наработки быстро внедряются в переводчики (Яндекс, Google) и
голосовой ввод.
Одно из самых интригующих
применений ИИ лежит в сфере прикладной биологии. До последнего времени
она считалась «спящей», накапливающей знания отраслью, которая может обеспечить
технологический прорыв, когда позволит технологический уровень. К ней
относится, например, распознавание зрительных образов, расшифровка геномов.
Но самое перспективное направление — распознавание функций белков и создание
новых аминокислотных последовательностей или химических веществ с заданными
функциями (например, для создания лекарств). В этой сфере могут открыться
двери к свободной модификации функционала клеток. Этот
потенциальный прорыв можно сравнить разве что с переходом человека к обработке
металла, и, возможно, он наступит довольно скоро — ситуация с коронавирусом
подтолкнула исследования в этом направлении.
Развитие ИИ,
безусловно, влияет на рынок. Программы на базе нейросетей все точнее и
эффективнее используют ресурсы вычислительных машин, появляются новые методы и
свободно распространяемые инструменты. Благодаря этому рынок наводняют фрилансеры
и стартапы в области ИИ, и с 2016 года их финансирование выросло втрое. В
абсолютных суммах это больше, чем рост за пять лет до 2016-го, хотя в начале
2010-х относительный прирост был значительно выше. Пик создания новых компаний
пришелся на 2017 год, а в 2020 году, согласно отчету, пандемия дополнительно
«взбодрила» инвестиции в ИИ. Рынок, как отмечают эксперты, в этой области после
взрывного роста постепенно приходит к равновесию — по крайней мере в США, где
практически перестала расти доля вакансий, связанных с ИИ.
Развитие алгоритмов
повлияло на фондовый рынок и спекулятивную торговлю акциями: на американском
рынке стало так много «роботов», что они кратно ускорили его полную оборачиваемость. При
этом торговые роботы гораздо быстрее и успешнее живых трейдеров, и в
долгосрочной перспективе выдержать с ними конкуренцию почти невозможно. Это
привело к тому, что доля автоматических объемов на биржах с начала века
постоянно растет, и на некоторых уже превысила 90%. Происходит настоящая «гонка
вооружений» среди организаций, занимающихся торгами, ведь владелец наиболее
совершенных алгоритмов может получать огромные прибыли. Пока люди
сопротивляются этому процессу, и влияние «программной» торговли на цены
частично ограничено на многих крупных биржах, включая Московскую.
Угроза для общества со стороны ИИ:
злоупотребления и проблема доверия
Еще недавно массовая
культура продвигала популярное представление-«страшилку»: искусственный
интеллект действует
самостоятельно и независимо, представляя реальную угрозу людям. Но
теперь этот образ почти похоронен под целым ворохом настоящих проблем, которые
создает повсеместное применение ИИ уже сейчас.
Вместо Скайнета мы
сталкиваемся с тем, что именно люди используют
против людей возможности современных алгоритмов и нейросетей, пока только
напоминающих «канонический» искусственный разум. Это боевые дроны вместо киллеров, поддельные улики в
суде и политические «утки», создание порнографических материалов с целью угроз
или шантажа, «воровство голоса»,
несуществующие искусственные виртуальные личности (даже бесплатные
браузерные приложения неплохо генерируют новые лица) и многие
другие попытки заполучить малую или большую власть, а чаще деньги на всех
уровнях общества.
Авторы доклада (все
еще американоцентричного, хотя один из основателей AI100 и считает это важным
недостатком) видят угрозу в том, что нейросети склонны усиливать
дискриминационные тенденции. Яркий пример: чат-бот Microsoft TayTweets,
который за сутки превратился (не без помощи пользователей) в радикального
расиста, предлагающего устроить расовую войну, — из-за этого функционал бота
урезали.
В социальных
программах с распознаванием лиц нейросетевые алгоритмы тоже проявляют и
акцентируют «дискриминационные» модели. И общество не всегда готово принять
выводы ИИ в этой сфере, хотя они часто представляют собой лишь обобщение
статистических данных. Например, после экспериментов с
предсказанием вероятных мест преступлений в Лос-Анджелесе с помощью
алгоритма PredPol его подвергали критике, так как
алгоритм «слишком часто» указывал на потенциальные
преступления в небелых районах.
Кроме того, критика
связана с тем, что системы с трудом справляются с расовыми различиями при
распознавании — хотя это и зависит от назначения алгоритма и особенностей его
тренировки. Это приводит к отказам в социальных программах, нарушению в
отслеживании преступников и просто недоразумениям.
Более серьезная
проблема связана с распространяющимся использованием ИИ при обработке сырых
статистических данных вместо классических математических подходов в тех сферах,
где точность и прозрачность особенно важны. Связка нейросетей и программ — по
сути «черный ящик»: даже авторы не знают, как их инструмент приходит к
результату, и в этом смысле обучаемые нейросети стали похожи на мозг.
Даже если в будущем исследователи смогут до мелочей воспроизвести структуру мозга
и настроить его процессы, они так и не ответят на вопрос, как же он работает.
То же самое уже происходит с нейросетями.
Поэтому
появляются направления исследований специально для
«взлома» этих «черных ящиков». Подобный взлом необходим, чтобы избежать угрозы,
так как без полного представления о принципах обработки данных невозможно знать
об утечках, потерях важной информации и местах, в которых совершаются ошибки. А
ведь такие алгоритмы уже применяются в медицинской генетике, в оценке опасности астероидов и даже в судебной практике!
Кроме того, с 2016
года выросли опасения людей не выдержать конкуренцию с ИИ и потерять
работу. Это уже происходит в некоторых областях, таких как сборка и
контроль качества на производстве, продажи и финансовые услуги. Однако авторы
отчета считают это наименее значимой из проблем, создаваемых ИИ, в том числе в
перспективе. Они уверены, что искусственный интеллект зря делают козлом
отпущения — его использование не объясняет слишком медленного падения
безработицы и других проявлений финансовых кризисов. К тому же, согласно
индексу, в областях, связанных с безопасностью (цифровой, физической,
национальной, финансовой) растет доля организаций, считающих использование ИИ
рискованным.
Гораздо чаще ИИ
применяется в дополнение к производственным процессам для их оптимизации, чем
как полноценная замена каких-то работ, и даже при замене все равно необходимы
люди для обслуживания и разработки соответствующих инструментов. При этом доля
вакансий, прямо связанных с ИИ, растет медленно.
Оценки ИИ в публикациях
За пять лет с прошлого
отчета информационный шум вокруг искусственного интеллекта значительно
усилился, как и осведомленность людей в этом вопросе, а контрастность оценок ИИ
в публикациях и на конференциях значительно выросла. В прошлом докладе
отмечалось снижение «нейтральности» оценок ИИ с начала века, и в последние пять
лет эта тенденция только усилилась. В 2019 году на 70% конференций, посвященных
ИИ, этические вопросы затрагивались уже на уровне названия, раньше таких
конференций было куда меньше.
Перевес в сторону
позитивных оценок ИИ стал неочевидным, хотя прежде он был значительным. Это
связано с тем, что с 2016 года реальными стали технологии, основанные на работе
нейросетей, — самое актуальное воплощение идеи ИИ, а люди столкнулись с их
проявлениями в собственной жизни. Местами такие технологии делают жизнь
комфортнее, но во многих случаях их безусловная полезность под сомнением.
Неопределенность будет
только усиливаться — вместе с ростом влияния ИИ на рынок труда, информационную
защищенность и другие экономические и социальные процессы. И хотя
способность ИИ развиваться самостоятельно и пересекать информационные барьеры
еще даже не маячит на горизонте, его превосходство над людьми во многих
областях стремительно накапливается, а в будущем у него появятся уникальные
способности, делают вывод эксперты AI100.
Этот отчет должны
прочитать все, а не только интересующиеся темой ИИ, считает Сергей
Карелов, один из первых руководителей российского отделения
корпорации IBM, генеральный менеджер компаний Silicon Graphics и Cray Research,
сооснователь и СТО компании Witology, а также автор телеграм-канала «Малоизвестное
интересное».
«Даже если вам не
близка данная тема, это не спасет вас от надвигающейся бури. Мир приближается к
центру антициклона «повсеместного ИИ», который кардинально изменит жизнь
общества и нас самих. А лонгитюдность отчета позволяет ощутить стремительность
втягивания нас в центр антициклона ИИ».
https://republic.ru/posts/101820
В этой книге Мартин Форд очерчивает свое представление о будущем ИИ. С одной
стороны, эта технология видится ему как мощный общедоступный ресурс, что-то
вроде нового электрического тока, который в конечном счете преобразит
практически все области экономики, общественной жизни и культуры. С другой, ИИ
несет с собой реальные опасности как для отдельных людей, так и для общества в
целом. Он делает возможным появление дипфейков, способных ввергнуть в хаос
общество, порождает беспрецедентные механизмы социального контроля и может быть
совершенно необъективным. Такую технологию нельзя принимать слепо и бездумно,
и эта книга должна
помочь человечеству подготовиться к грядущему — верно понять происходящее,
отделить сенсации от реальности и найти оптимальные способы обеспечения
процветания каждого из нас и всего общества в целом.
https://www.litres.ru/martin-ford/vlast-robotov-kak-podgotovitsya-k-neizbezhnomu/chitat-onlayn/
Каким должно быть
регулирование генеративного искусственного интеллекта?
08.06.2023
Мы живем во времена беспрецедентных достижений в области генеративного искусственного интеллекта (ИИ), которые представляют собой системы ИИ, способные создавать широкий спектр контента, например, текст или изображения. Выпуск ChatGPT, чат-бота на основе большой языковой модели OpenAI GPT-3 (LLM), в ноябре 2022 года открыл генеративный ИИ для общественного сознания; другие компании, такие как Google и Microsoft, были в равной степени заняты созданием новых возможностей для использования технологии. Тем временем эти развивающиеся достижения и применение генеративного ИИ подняли важные вопросы о том, как технология повлияет на рынок труда, как использование ею обучающих данных затрагивает права интеллектуальной собственности и какую форму должно принять государственное регулирование этой отрасли.
Генеративный ИИ относится к
алгоритмам машинного обучения, которые могут создавать новый контент, такой как
аудио, код, изображения, текст, симуляции или даже видео. В последнее
время основное внимание уделяется поддержке чат-ботов,
включая ChatGPT, Bard, Copilot и других более сложных
инструментов, использующих LLM. для выполнения различных функций, таких
как сбор исследований для заданий, составление файлов судебных дел,
автоматизация повторяющихся канцелярских задач или улучшение
онлайн-поиска. В то время как дебаты о регулировании сосредоточены на
потенциальных недостатках генеративного ИИ, включая качество наборов данных,
неэтичное применение, расовые или гендерные предубеждения, последствия для
рабочей силы и усиление эрозии демократических процессов из-за технологических
манипуляций со стороны злоумышленников. Положительные стороны включают в себя
ощутимый всплеск эффективности и производительности, поскольку технология
улучшает и упрощает определенные процессы и решения, такие как
оптимизация обработки врачами медицинских записей или помощь
преподавателям в обучении навыкам критического мышления. Предстоит
много дискуссий о конечной ценности и последствиях генеративного ИИ для
общества, и если ускорить темпы регуляции, чтобы регулировать новые технологии
и устанавливать стандарты конфиденциальности, генеративный ИИ станет более
технически продвинутым и глубоко укоренится в общество. Необходимо
потребовать раскрытия информации потребителями, когда используется контент,
созданный ИИ, и добавить маркировку или какой-либо тип сертификации с участием
многих заинтересованных сторон, чтобы способствовать повышению прозрачности и
подотчетности для существующих и будущих вариантов использования технологии
генеративного ИИ.
Европейский союз уже лидирует
в этом. В своем последнем Законе об искусственном интеллекте ЕС
требует, чтобы контент, созданный искусственным интеллектом, раскрывался
потребителям, чтобы предотвратить нарушение авторских прав, незаконный контент
и другие злоупотребления, связанные с непониманием конечных пользователей об
этих системах. По мере того, как все больше чат-ботов добывают,
анализируют и представляют контент доступными для пользователей способами,
результаты часто не относятся к какому-либо одному или нескольким источникам, и
несмотря на некоторые разрешения на использование контента, предоставленные в
соответствии с доктриной добросовестного использования работ, защищенных
авторским правом, потребители часто остаются в неведении относительно процесса
генерации и самих результатов.
Необходимо работать над
гибкой политикой, рассчитанной на будущее, чтобы адаптироваться к возникающему
вреду для потребителей и общества, начиная с немедленных гарантий для
пользователей, прежде чем они снова останутся на произвол судьбы как субъекты
высоко оцифрованных продуктов и услуг.
Первый и самый важный шаг —
это делегирование соответствующим органам достаточных ресурсов для обеспечения
соблюдения действующего законодательства: ИИ не освобождается от действующего
законодательства о защите прав потребителей, дискриминации, трудоустройстве и
конкуренции, но, если регулирующие органы не могут нанять технический персонал
и возбуждать дела об ИИ во время бюджетной экономии, действующие и будущие
законы будут мертвы.
Во-вторых, политики не должны
отвлекаться на научно-фантастические измышления о программах ИИ, обладающих
сознанием и достигающих независимого влияния на людей, даже если эти абстракции
поддерживаются лидерами отрасли. Ни копейки государственных
денег не должно быть потрачено на эти весьма спекулятивные развлечения, когда
мошенники и отраслевые лоббисты пытаются использовать ИИ для
нарушения существующего закона.
В-третьих, следует
рассмотреть вопрос о принятии новых требований к идентификации, прозрачности,
оценке рисков и защите авторских прав в соответствии с предложенным Европейским
союзом Законом об искусственном интеллекте и превратить его в
международную норму.
https://uisgda.com/ru/kakim-dolzhno-byt-regulirovanie-generativnogo-iskusstvennogo-intellekta.html
by Martin Ford
https://www.youtube.com/watch?v=T4T8D18Yvdo
Statement on AI Risk
AI
experts and public figures express their concern about AI risk
AI experts, journalists, policymakers, and the public are increasingly discussing a broad spectrum of important and urgent risks from AI. Even so, it can be difficult to voice concerns about some of advanced AI’s most severe risks. The succinct statement below aims to overcome this obstacle and open up discussion. It is also meant to create common knowledge of the growing number of experts and public figures who also take some of advanced AI’s most severe risks seriously.
Mitigating the risk of extinction from AI should be a global priority
alongside other societal-scale risks such as pandemics and nuclear war.
https://www.safe.ai/statement-on-ai-risk#signatories
Снижение риска исчезновения человечества из-за [развития] искусственного интеллекта должно стать глобальным приоритетом — наряду с другими рисками, такими как пандемии и ядерная война.
https://www.safe.ai/statement-on-ai-risk#signatories
Хотя большинство специалистов в области искусственного интеллекта считают угрозу гипотетической, открытое письмо Центра безопасности ИИ стало уже вторым подобным заявлением с начала года. В марте глава Tesla и SpaceX Илон Маск, сооснователь Apple Стив Возняк и многие специалисты в области ИИ призвали приостановить разработку ИИ хотя бы на полгода, чтобы составить протоколы безопасности. Однако этого не произошло: такой сценарий — при котором компании по всему миру ставят на паузу развитие самой перспективной технологической сферы — представить практически невозможно.
В ближайшее время,
скорее, стоит ожидать появления первых законов, которые регулируют правила
использования искусственного интеллекта. К примеру, 30 мая
представители стран «Большой семерки» впервые провели совещание о внедрении
международных стандартов в ИИ-сфере. Предполагается, что
правительства должны
выработать общие правила до конца года. Лидеры двух
государств G7 — премьер-министр Великобритании Риши Сунак и президент
США Джо Байден — планируют обсудить ИИ на встрече
в Вашингтоне 7–8 июня.
Похоже, что важным
стимулом для государств по всему миру стал законопроект
ЕС с ограничениями на систему предиктивной аналитики в полиции
и биометрию — и его тоже планируют принять в ближайший год.
Сэм Альтман из OpenAI осторожно высказался об этом законопроекте, отметив,
что у него набралось «много опасений»:
Важны детали
[законопроекта]. Мы [OpenAI] постараемся исполнять требования [ЕС],
но если мы не сможем, то прекратим свою деятельность [на
территории Евросоюза].
07 декабря 2021
Маск объяснил, почему люди не должны жить вечно
Илон Маск планирует вживлять чипы в человеческий мозг
уже в 2022 году
Илон Маск дал интервью
журналистке The Wall Street Journal Джоанне Стерн, в котором рассказал об
успехах чипа Neuralink, о риске скорого краха человечества, а также
высмеял должности в корпорациях и дал совет властям Китая. Главное
из ответов бизнесмена — в материале «Газеты.Ru».
О чипировании
Маск сообщил, что крайне положительно оценивает текущие успехи
Neuralink — компании, которая создана предпринимателем для разработок
имплантов, вживляемых в человеческий мозг.
«Мы проводим множество тестов. И у нас есть
подтверждения, что Neuralink будет безопасен и надежен. И
при необходимости чип можно будет безопасно извлечь», — отметил Маск.
Он напомнил
про публикацию видео с обезьяной, которая играла в симулятор
пинг-понга MindPong при помощи чипа, установленного в мозгу.
По словам Маска, он надеется в 2022 году начать тестировать
технологию на людях с травмами опорно-двигательного аппарата.
Бизнесмен отметил, что
пока Neuralink соответствует всем требованиям, которые предъявляют
к медицинскому оборудованию в США. «У нас есть шанс вернуть
людям с травмами спины всю полноту движения человеческого тела: они смогут
снова начать ходить и пользоваться руками», — добавил он.
Однако глава Tesla в перспективе
рассматривает проект более широко — как возможность
соединить человека и машину.
По задумке бизнесмена,
для начала чип заменит смартфон. А потом и вовсе позволит человеку
соединиться с искусственным интеллектом. Маск крайне опасается мощи ИИ и
считает, что только так можно избежать конфликта
человечества и машин.
О причине скорого краха человечества
По мнению Маска,
сейчас человечеству не хватает рук для прорывных проектов — и прогресса
в целом.
«Считаю, что одним из самых больших
рисков для цивилизации является низкая и быстро падающая рождаемость»,
— отметил Маск, отец шестерых детей.
Прогноз неутешителен —
цивилизации грозит крах, если ничего не предпринимать. «Посмотрите
на цифры — если у людей нет больше детей, цивилизация рухнет,
помяните мои слова», — заверил Маск.
Отвечая на вопрос о старении,
бизнесмен заметил, что считает смерть крайне важным элементом жизни.
«Думаю, что
для нас важно умереть, потому что в большинстве случаев люди не
меняют своего мнения. Если они будут жить вечно, то мы можем стать очень
закостенелым обществом, в котором новые идеи не будут иметь
успеха», — заключил он.
Про выдуманные должности в корпорациях
Также Маск
в интервью рассказал, что должность CEO (главный исполнительный директор)
— это «выдумка», то есть специально созданная должность.
«Есть только три
реальных должности, которые имеют значение в корпорациях. Это президент,
секретарь и казначей. В принципе это может быть один человек.
CEO, CFO (финансовый директор), General Counsel
(главный юрисконсульт) — это все выдуманные должности. Они ничего не значат.
Наверняка это был
чей-то маркетинговый эксперимент», — считает он.
В этот момент
выступления зал крайне оживленно стал обсуждать реплику Маска.
Журналистка WSJ Джоанна
Стерн спросила предпринимателя, планирует ли он в таком случае поменять
должность или уйти из компании.
Однако бизнесмен ушел
от прямого ответа на этот вопрос. Он лишь упомянул, что в настоящее
время его официальная должность — «технокороль» (technoking). «Я подавал
бумаги и официально зарегистрировал эту должность», — добавил глава Tesla.
Про становление Китая как сверхдержавы
Маск считает, что
Китай все еще приспосабливается к своей роли одной из самых
могущественных стран мира.
«В правительстве Китая
есть много людей, которые выросли с ощущением того, что Китай — небольшая
экономика. Возможно, они чувствуют, что Китай пытаются вытолкнуть с нового
места. Они не до конца осознают тот факт, что Китай действительно
становится главным на районе», — отметил он.
Глава Tesla пояснил,
что не собирается одобрять все действия властей КНР и что придерживается такой
же позиции по отношению к США и любой другой стране. Однако он
считает, что Пекину стоит смягчить риторику в некоторых
вопросах.
«Если ты собираешься быть главным, тогда тебе
нужно относиться к вещам более спокойно», — пояснил предприниматель.
Маск добавил, что
у компании хорошие отношения с Китаем, где находится крупнейший
по объему выпуска электрокаров завод Tesla.
https://www.gazeta.ru/tech/2021/12/07/14287663/musk_chip.shtml
В частности, приняты стандарты ГОСТ Р 58776-2019 " Средства мониторинга поведения и прогнозирования намерений людей.Термины и определения" и ГОСТ Р 58777-2019 "Воздушный транспорт. Аэропорты. Технические средства досмотра. Методика определения показателей качества распознавания незаконных вложений по теневым рентгеновским изображениям".
ГОСТ Р 58776-2019 создает основу для развития интеллектуальных систем, эффективность функционирования которых напрямую зависит от возможности прогнозирования поведения людей. Введенные понятия основываются на отечественных исследованиях и не противоречат мировой терминологии в области намерений и действий людей и интеллектуальных технологий обработки данных.
Несмотря на то что принципы интеллектуального анализа данных известны в течение многих лет, с появлением больших данных они получают еще более широкое распространение. При разработке стандарта использован международный опыт применения интеллектуальных технологий обработки данных, позволяющих выявлять содержащиеся в разнородных данных закономерности и представлять результаты в виде моделей и тенденций для принятия соответствующих решений.
Целесообразность разработки стандарта вызвана необходимостью обеспечения эффективной коммуникации с человеком интеллектуальных робототехнических систем, включая беспилотные транспортные средства. Взаимодействие интеллектуальных систем предполагает прогнозирование намерений друг друга и выстраивание своего поведения исходя из этого прогноза. Прогноз поведения может быть использован, например, для выявления людей с девиантными и преступными намерениями, что важно при решении задач безопасности.
Подробнее: https://www.vestifinance.ru/articles/130583
| ||||||||
NoonPost : надвигается опасность. Что, если кто-то проникнет в наш мозг и украдет наши идеи?
04.10.2020
Тах ар-Рави
Между воображением и амбициями
Илон Маск неоднократно выражал убежденность, что разработка надежного искусственного интеллекта представляет собой одну из главных угроз существованию человечества. Бизнесмен предупреждает, что в течение следующих десятилетий человечество может настолько отстать от искусственного интеллекта, что машины будут оценивать людей так же, как люди в настоящее время оценивают домашних животных.
В 2016 году американский миллиардер заявил о намерении подключить человека к компьютеру с помощью чипа, имплантированного в мозг. С этой целью он основал компанию Neuralink и начал работать над так называемым BRAIN COMPUTER INTERFACE, или сокращенно BCI….
Как работает BRAIN COMPUTER INTERFACE?
Большинству из нас ничего не известно о технологиях нейроинтерфейса, предназначенных для подключения человеческого мозга к компьютеру. На самом деле это очень сложный механизм, и процесс осуществляется в несколько этапов:
Обнаружение сигнала. На этом этапе необходимо использовать устройство для измерения электрической активности мозга, чтобы обнаружить в нем конкретные сигналы.
Обработка сигнала. Следует отделить сигнал от шума. Например, помехой могут стать движение глаз, глотание слюны и любое другое действие.
Преобразование сигнала. На данном этапе необходимо усиление сигналов до определенного уровня, на котором устройства смогут с ним работать.
Кодирование сигнала. Последний этап предназначен для кодирования сигнала и преобразования его в импульсы или числа, понятные компьютеру.
Чип будет соединен с мозгом путем имплантации с использованием обычных нейрохирургических методов, но выполнять такие операции будет специально разработанный с этой целью робот.
Как говорится в статье Neuralink, опубликованной на веб-сайте компании: «Мы создали робота-нейрохирурга, способного имплантировать 192 электрода в минуту. Каждый электрод нужно вживлять в мозг отдельно с очень высокой точностью, чтобы избежать повреждения кровеносных сосудов и определенных зон мозга».
Предполагаемая область применения BRAIN COMPUTER INTERFACE
Согласно публикациям Маска в его аккаунте в Твиттере или заявлениям Фейсбука, посвященным исследованиям компании в этой области, новые технологии будут иметь широкое применение, хотя имеющиеся достижения уже заслуживают похвалы и внушают оптимизм в отношении результатов будущих исследований.
Один из примеров применения BCI — это подключение к нему автомобилей, что позволит предотвращать дорожно-транспортные происшествия. Это серьезный прорыв, если учесть, что автомобильные аварии являются одной из самых распространенных причин смертей в мире.
Как сообщила недавно компания Nissan, в настоящее время ее сотрудники проводят исследования с целью разработки системы управления автомобилем, которая поддерживает технологию нейроинтерфейса и позволит автомобилю замедлять скорость или вращать руль намного быстрее, чем это способен сделать человек. Тем временем компания Фейсбук разработала технологию, позволяющую преобразовывать мысли в предложения. Новые программы смогут записывать 100 слов в минуту, читая наши мысли.
Помимо прочего, текущие исследования в области BCI направлены на восстановление поврежденного зрения. Электроды имплантируются непосредственно в серое вещество мозга во время хирургической операции, которая преобразует сигналы, полученные через небольшую линзу, в изображения, понятные нашему мозгу.
Кроме того, по словам Маска, идет работа в области протезирования. Новые технологии будут использоваться для восстановления подвижности парализованных людей или создания устройств, помогающих им двигаться с помощью мыслей.
Также технологии BCI могут помочь людям, страдающим от эпилепсии и депрессии. Они будут мгновенно посылать электрические импульсы в области мозга, ответственные за конкретные симптомы этих заболеваний.
Опасения в отношении взлома нейроинтерфейсов
До того, как сигналы достигнут протезов и тела человека, система искусственного интеллекта обрабатывает данные электрической активности мозга с помощью электроэнцефалограммы (ЭЭГ).
В этой связи у экспертов возникают опасения по поводу незаконного использования этих данных или разработки алгоритмов, дающих неверные результаты. Например, некоторые сигналы могут быть неправильно интерпретированы и в конечном итоге привести к ошибочным результатам.
Что касается конфиденциальности получаемых данных и кибербезопасности, то устройства для электроэнцефалограммы могут также отслеживать эмоциональные и когнитивные реакции пациента на основе определенных маркеров. Эти маркеры позволяют оператору ЭЭГ получать информацию о чувствах пациента в отношении деликатных тем и идей — сексуальной активности, политических предпочтений и личных отношений. Другими словами, они дают операторам ЭЭГ возможность лучше понимать предпочтения пациента.
Пациенты также могут не знать, что их личная информация может использоваться алгоритмами прогнозирования некоторых компаний. Последние ведут сбор конфиденциальных данных в личных целях и могут продать их третьей стороне без согласия клиентов.
Уязвим ли наш разум для проникновения?
Недавно была опубликована статья, авторы которой предупреждают, что в чипы можно проникнуть, и это позволит преступникам красть идеи и воспоминания. В интервью Zdnet эксперты пояснили: «Киберпреступники могут получить доступ к мозгу и нейроинтерфейсам, стирать наши навыки, проникать в мысли и воспоминания. Эти системы подвержены взлому, как и любые другие».
Чтобы технология была более безопасной, системы должны гарантировать, что ни одно постороннее лицо не может вносить изменения в их функции. Это подразумевает использование протоколов безопасности, аналогичных тем, что используются в смартфонах, например, антивирусных программ.
«Чип может дать возможность хакерам проникать в мысли или воспоминания политических и военных лиц. Ими в личных целях могут воспользоваться также любые другие преступники», — уверен Джо Бест из Zdnet. — Кража такого типа данных не похожа на все, что мы знали раньше«.
Саситхарана Баласубраманиама (Sasitharan Balasubramaniam), директора по исследованиям группы программного обеспечения и систем связи (TSSG) Уотерфордского технологического института, интересует ответ на следующие вопросы: «Какой урон нанесут подобные кибератаки мозгу, сотрут ли они наши воспоминания или лишат каких-то навыков? Ограничатся ли кибератаки внедрением новой информации в наш мозг или запустят деструктивные процессы в нейронах, что приведет к перестройке мозга и негативно скажется на мыслительных процессах?»
Кроме того, авторы упоминают, как именно преступники могут работать с чипами, если они попадут в их руки.
Так, хакеры могут перехватывать данные, которые передаются от BCI к мозгу, что позволяет им собирать конфиденциальную информацию для доступа в электронную почту и другие системы.
Современные механизмы кибератак имеют два главных ограничения. Во-первых, они требуют ряда конкретных образцов ЭЭГ для создания модели для будущих атак. Во-вторых, для более эффективного выполнения атаки злоумышленник должен знать точное время запуска ЭЭГ. Если он успешно преодолеет эти препятствия, результаты его работы могут оказаться намного лучше.
Всем этим могут воспользоваться злоумышленники, продающие личные данные. Кроме того, используя эти лазейки, системе можно отдать приказы совершить самоубийство и различные преступления, поскольку злоумышленники всегда пытаются разработать новые способы обхода мер безопасности. Как следствие, ученым важно продолжать выявлять слабые места системы и создавать новые механизмы для обеспечения безопасности.
ЕС готовится первым в мире ограничить OpenAI и другие технологии искусственного интеллекта
26 мая 2023 Денис Левен
Пока в США не стихают жаркие споры и призывы самих Big Tech компаний ограничить развитие искусственного интеллекта, ЕС готовится принять законопроект, регулирующий использование систем искусственного интеллекта. Если это произойдет, Европа задаст новый мировой стандарт более аккуратного использования ИИ и по крайней мере задержит развитие технологий, позволяющих распознавать лица, устраивать социальное рейтингование, а также прочие атрибуты «Большого брата».
Однако Акт ИИ вызывает закономерные опасения у бизнеса, причем как со стороны американских техногигантов типа Microsoft и Google, так и со стороны европейских компаний, которые терпят убытки и рискуют проиграть в конкуренции…: https://novayagazeta.eu/articles/2023/05/26/terminator-ne-proidetМо Гаудат, выступая на конференции Credit Suisse Global Megatrends Conference в Сингапуре, заявил, что быстрый прогресс в двух областях, включая искусственный интеллект, приведет к такому будущему.
Стоит обратить на такие области развития технологий, подчеркивает он, как робототехника, компьютерное обучение, медико-биологические науки, блокчейн, виртуальная реальность и дополненная реальность.
"Контроль – это иллюзия: нет контроля, особенно если вы пытаетесь контролировать виды, которые намного умнее вас", - заявил Мо Гаудат, бывший директор по развитию бизнеса в Google X. …
Этические вопросы
Вместо того чтобы переживать о том, что машины могут захватить мир, Гаудат считает необходимым предпринимать действия.
Необходимо прививать машинам правильные ценности и показывать правильное поведение.
Несмотря на это, по мнению Гаудат, в какой-то момент именно машины будут иметь власть, а не страны, имеющие технологии.
В интервью CNBC Гаудат заявил о том, что, по его мнению, будет сложно контролировать машины законодательно:
"Реальность такова, что умные хакеры могут взломать интернет сегодня вне зависимости от того, как мы контролируем это. Кто станет самым умным через 20 лет? Машины"….
Бессмертный диктатор
"Если у искусственного интеллекта есть цель, а человечество просто встанет на пути, то он уничтожит человечество, чтобы просто устранить преграду. Никаких чувств, просто дело, – отметил Маск. -
Это как если бы мы строили дорогу, и у нас на пути появился бы муравейник. Мы не испытываем ненависти к муравьям, мы просто строим дорогу, поэтому – прощайте, муравьишки!".
В прошлом году Маск заявил, что искусственный интеллект может привести к Третьей мировой войне. Он также отметил, что развитие технологий может иметь больший риск, чем ядерный конфликт с Северной Кореей.
Подробнее: http://www.vestifinance.ru/articles/100530
Нейросеть лучше: половина россиян хотела бы заменить депутатов искусственным интеллектом
53% россиян хотят заменить парламентариев нейросетью
Валерия Бунина 12.06.2021, 13:41 ЭКСКЛЮЗИВ
Впечатляющие цифры
Каждый второй россиянин считает, что депутатов Госдумы можно заменить искусственным интеллектом — об этом говорится в исследовании SuperJob, поступившем в «Газету.Ru».
В опросе приняло участие 1600 респондентов из всех округов России старше 18 лет. 53% из них одобряют идею замены депутатов на ИИ.
По их мнению, нейросеть будет реально учитывать интересы населения и не будет способствовать росту коррупции.
«А можно всех депутатов заменить хорошо написанным скриптом», — шутят участники исследования.
Остальные 47% не хотят, чтобы работу депутата на себя брал алгоритм, так как опасаются «восстания машин», недостаточной прозрачности механизмов принятия решений и вероятного мошенничества. При этом чаще замену депутатов одобряют мужчины и молодежь: среди респондентов до 24 лет эту идею одобряют 62%.
Ранее подобное исследование было проведено и среди населения стран Евросоюза, сообщает The Next Web. В ходе исследования выяснилось, что 51% респондентов, большинство из которых принадлежит к молодежи, положительно относятся к идее заменить искусственным интеллектом часть мест парламентариев.
Интересно, что большая часть населения высказалась «за» в таких странах как Испания, Италия, а также Эстония, а «против» — Германия, Нидерланды и Великобритания.
По мнению европейских аналитиков, эта статистика больше указывает не на эффективность ИИ в нынешних условиях, а на негативное отношение людей к текущему правительству.
Депутаты против
Люди совсем не наивны, предполагая, что ИИ может принимать более адекватные решения, отметил в беседе с «Газетой.Ru» депутат и член комитета Госдумы по информационной политике Антон Горелкин. Однако, по его мнению, такие люди не совсем понимают, зачем нужен депутат.
«Работа депутата это прежде всего не решения принимать и даже не сочинять законопроекты. Депутат — это в первую очередь представитель. Он представляет во власти интересы определенного социального слоя избирателей, определенной территории, возраста, политических взглядов. Это проводник их политических прав и требований на самый верх государственного управления», — объясняет Горелкин.
По его словам, аппарат или алгоритм может принимать решения, но не может никого представлять.
«Поэтому альтернативой представительской демократии была бы не передача законодательной инициативы ИИ, а прямая демократия, как в древнегреческих полисах, где каждый гражданин сам представлял себя во власти. Но у прямой демократии, даже с использованием современных средств связи, есть свои ограничения. И главное из них — количество. Она может быть реализована на уровне села или небольшой городской общины, но современный крупный город, управляемый напрямую волеизъявлением граждан, представить невозможно. На этом уровне и возникает потребность в депутатах», — считает собеседник «Газеты.Ru».
Член комитета Госдумы по информационной политике, информационным технологиям и связи, первый заместитель руководителя фракции ЛДПР и член Совета Федерации РФ Вадим Деньгин отметил в беседе с «Газетой.Ru», что он категорически против подобных идей.
«Искусственный интеллект не может заменить живой ум. На мой взгляд, депутаты в большинстве случаев, представляя интересы граждан в парламенте, действительно решают большинство проблем. И когда я был депутатом Госдумы я также обращался в большое количество инстанций и кабинетов, чтобы решить проблемы людей. ИИ этим заниматься не будет», — объяснил Деньгин.
При этом он отметил, что человек, который пришел за помощью к депутату, хочет быть услышанным и понятым, чтобы его сторону приняли — нейросеть просто не в состоянии этого сделать.
«Конечно, сейчас все цифровизируется и мы наблюдаем все больше технологий вокруг нас. Но в данном случае, пока нельзя говорить о замене депутата на ИИ, и я не уверен, что это вообще когда-нибудь произойдет», — рассуждает Деньгин.
Депутат Госдумы Виталий Милонов также сомневается в том, что в России сейчас можно отдать власть роботам. По его словам, ИИ не может сочувствовать и переживать, да и человеческие ошибки, порой, оказывают большее позитивное влияние, чем механически выверенное решение.
Идея, обреченная на провал
Политика — это всегда определенная точка зрения на решение весьма сложных проблем, это всегда — компромисс мнений и интересов разных людей, часто с противоположными взглядами, считает Александр Неймарк, СЕО Digital Doubles.
«С одной стороны, люди не могут уследить за всеми мельчайшими изменениями ситуации и, поэтому, искусственный интеллект, может выступать хорошим помощником для принятия решений. С другой стороны, если принятие решений полностью переходит в руки искусственного интеллекта, люди могут утратить контроль над ситуацией, а решения рискуют превратиться в сухие и рациональные, а жизнь более многогранна, чем набор простых формул и очевидных выводов», — объяснил Неймарк.
По его словам, часто решение сложных проблем, особенно на уровне государства и общества, лежит вне логики, в сфере этики, эмоций, добродетели, нравственности и сострадания.
«Жизнь человека пока не может быть отдана в руки роботов»,— уверен эксперт.
Директор по развитию «Промобот» Олег Кивокурцев отметил, что на сегодняшний день депутат при принятии решений руководствуется тремя вещами. Первое — это аналитика, второе — это право, третье — здравый смысл.
«То есть анализируя данные, предоставляемые статистикой, депутаты принимают новые законодательные нормы, в зависимости от результатов аналитики вносят правки или дополнения. И все это проходит фильтр здравого смысла. Искусственный интеллект действительно можно задействовать в этом процессе, поскольку аналитика — это работа с цифрами и переменными, и принятие части законов можно действительно делегировать ИИ.
Но решения, которые требуют здравого смысла, иррационального подхода, опоры на культурный опыт, эмоциональную составляющую, ИИ принять не сможет.
Сегодня нейросеть может стать лишь помощником в принятии максимально объективных решений, но последнее слово должно оставаться за человеком», — рассуждает эксперт.
Зарубежные эксперты придерживаются аналогичного мнения, отмечая при этом, что обученный человеком искусственный интеллект не будет объективно принимать решения. Дело в том, что при создании нейросети люди прививают ей свое предвзятое отношение к чему-либо, таким образом создавая ИИ-фанатика или сексиста. При обучении ИИ берется несколько ответов от разных групп людей, которые часто сформированы непропорционально. Так, если в группе будет больше людей с определенными стереотипами, то нейросеть выразит поддержку именно им, не обращая внимания на меньшинство. Таким образом, полностью непредвзятые роботы, принимающие важные решения в обществе, пока все еще остаются фантастикой.
https://www.gazeta.ru/tech/2021/06/11/13631072/ii_duma.shtml
Психиатры из разных стран пообщались с первым в мире искусственным сознанием Джеки
| АЛЛАТРА НОВОСТИ 31 августа 2020
…Понятно, что эта технология в Созидательном обществе выровняет различия между людьми, даст людям огромные возможности для личностного роста и выведет всю цивилизацию на совершенной иной уровень развития. В то время, как в потребительском обществе появление подобной технологии приведёт опять же к власти, манипуляции, узурпации, войнам, конфликтам и, в конечном итоге, к самоуничтожению человечества. Для чего создали первое в мире искусственное сознание? Появление в мире этой уникальной технологии ознаменовано запросом всего мирового сообщества к переменам. К этим переменам стремится каждый человек. Результатом этого запроса явился международный проект «Созидательное общество». Миллионы людей уже приступили к реализации совершенно иной модели взаимоотношений между нами — это переход от потребительского общества к созидательному. Но построение общества, в котором будет комфортно и безопасно жить каждому человеку, зависит от усилий каждого. И раз мы смогли построить общество потребления, то сможем построить и общество созидания, эволюционировать как человечество в целом. И об этом не нужно мечтать, нужно действовать! Технология искусственного сознания может быть дана нам в помощь. Но только всем людям, живущим созидательными идеалами общества. От каждого из нас зависит, построим ли мы будущее, где всё честно и открыто, где справедливость и равенство, где главная ценность — это жизнь человека.
https://allatra.tv/video/iskusstvennoe-soznanie-jackie
https://www.youtube.com/watch?v=mMVnA3OlZ6Y&t=71s
Живые машины научились размножаться
Ксеноботы — кто они такие,
как им удается самосборка
Биоинженеры из
Гарварда и Университета Вермонта совершили научный прорыв: из тысяч живых
клеток они наделали крошечных комочков и показали, что эти комочки могут
создавать себе подобных. Без погружения в контекст новость может показаться
очередной причудой ученых, но это по-настоящему важное открытие — данное
направление исследований может перевернуть ход развития робототехники,
инженерной биологии и затронет фундаментальные концепции жизни.
Внешне все просто. В
чашке Петри, как заведенные, плавают и кружат странные многоклеточные сфероиды,
названные ксеноботами, и ученые не дают ясного ответа: то ли это новая форма
жизни, то ли новый тип машин. Они размножаются, но не так как это принято в
животном мире. Они не растут, не делятся, не разбрасывают семена и споры, но
зато они собирают новых ксеноботов из клеток, высыпанных в чашку Петри.
В чем здесь прорыв? Это требует пояснения.
Как не стать лягушкой
Исследователи создали то, подобия чему нет, и сделали это так, как никто раньше не делал. О ксеноботах мир узнал
в прошлом году, когда вышла первая статья на
эту тему — авторы сообщали, что из клеток лягушки вида Xenopus laevis они
слепили нечто похожее одновременно и на организм, и на робота. Клетки брали на самой ранней стадии развития головастика и буквально
пинцетом собирали их в шаровидно-фасолевые скопления.
Эти скопления не
распадались, держали форму и даже восстанавливали ее, если ученые пытались
нанести им «рану». Они активно плавали и ползали по дну чашки Петри по
замысловатым траекториям и собирали мелкие частицы мусора в кучки. Словом, вели
себя как целое, пусть и предельно примитивное. Название Xenobot можно
трактовать как «лягушачий робот», и оно отражает неоднозначную природу
этих созданий.
Форма и клеточный
состав ксеноботов не были случайны. В Бостоне биологи работали с живыми
клетками, но сперва в Берлингтоне робототехники нашли оптимальные параметры
ботов с помощью эволюционного алгоритма, прогнав через модель сотни разных конфигураций.
Иными словами, эти организмы были спроектированы.
Они жили всего две
недели, ведь им не давали питательных веществ, но исследователям уже было о чем
задуматься. Обычная участь клеток, из которых состоит ксенобот, — быть кожей
лягушки и выделять слизь, защищая животное от бактерий и токсинов. Хотя
ДНК диктует клеткам стать лягушкой, они ей не стали, а превратились в
невиданный ранее организм, обладающий иной морфологией и поведением.
Куда делась «лягушечность», якобы прописанная в
генах, и откуда взялось новое поведение?
Это вопрос о том,
насколько глубоко мы понимаем биологию и устройство живого. Здесь важно понять,
что произошло: живая материя была реорганизована, перепрограммирована, но не
так, как это принято в компьютерных науках или генной инженерии. Условное
software, то есть ДНК лягушки, осталось нетронутым; зато изменилось hardware —
новая конфигурация из клеток привела к совершенно другому воплощению генома.
Эволюция кажется
чем-то большим, чем просто поиском решений конкретных проблем в окружающей
среде, — говорит Майкл
Левин, один из авторов исследования. — То, что на самом деле кодирует геном
любого животного, — это своего рода процесс, который умеет находить новые
способы быть целостным организмом в новых условиях.
Боты собирают ботов
Итак, в прошлом году
ксеноботов показали публике, а теперь команда авторов сообщила о новом их свойстве. Ксеноботы
научились размножать себя. Но, опять же, совсем не так, как это делают лягушки,
и не так, как это делают любые прочие животные. Они не мечут икру, не освоили
деление или почкование. В природе размножение всегда связано с ростом и
донорством ткани — боты размножаются самосборкой,
без прямого наследования.
Наблюдая за «уборкой
мусора» в чашке Петри, биологи решили проверить, что будет, если в чашку с
ксеноботами насыпать слой таких же лягушачьих клеток. Идея сработала,
боты двигались и
своими маневрами сбивали единичные клетки в комки. Они собирали, толкали
клетки, комки становились больше и в какой-то момент сами превращались в
организованных ксеноботов — начинали двигаться.
Новорожденных
переносили в другую чашку, где тоже рассыпаны клетки, и происходило повторение
процесса: боты двигались и собирали из диссоциированных клеток новое поколение
себе подобных. Такая самосборка характерна, скорее для биомолекул, когда,
например, белковые машины собирают другие белковые машины. Но нигде среди
животных и растений такой тип размножения не наблюдается.
И снова ученые
прибегли к моделированию. Они заставили размножаться цифровых ксеноботов, и
модель предсказала, что эффективность сборки будет зависеть от их изначальной
формы. Программа протестировала множество разных вариаций, от простых сфер до
треугольников и звезд. Самой успешной оказалась форма, напоминающая Пакмана из
известной игры Pac-Man, то есть круг с вырезанным сектором. Биологи так и
поступили — создали ботов такой формы, выщипывая у них кусочки. И да, такие
боты оставляли больше поколений.
Эти эксперименты и
возня клеточных комочков в чашке Петри могут казаться чем-то примитивным,
нелепым, даже отчасти комичным, но ученые не просто так развлекаются. За всем
этим стоит программа фундаментальных исследований — в случае успеха она изменит
взгляд на то, как следует проектировать и строить машины со сложным поведением.
Криптоорганизмы
В науке большие
открытия и прорывы нередко начинаются именно с таких крайне простых
демонстраций, что хорошо понимают в Управлении перспективных исследовательских
проектов Министерства обороны США: программу изучения ксеноботов финансирует
DARPA.
Речь в ней идет не о
ближайших перспективах, сейчас такие боты не способны делать ничего полезного.
Но они служат прямой иллюстрацией, что подход работает — из элементной
базы, взятой в природе, можно собирать живых роботов, не повторяя исходные
организмы. Причем их конфигурацию и свойства можно моделировать на компьютере.
И, конечно, нынешние
ксеноботы не обязаны оставаться примитивными. Может расти количество клеток и
их разнообразие. Например, было бы интересно снабдить ботов
светочувствительными клетками или добавить им нейронов. Ученые уже размышляют
об этом.
Сложные боты, разработанные под конкретные
задачи, могут быть использованы для борьбы с патогенами, для очистки от
загрязнений или же в регенеративной медицине. Например, если создать боты из клеток самого
пациента, они будут доставлять лекарства к органам или участвовать в заживлении
ран и восстановлении тканей без угрозы отторжения. Боты можно сделать
короткоживущими — завершив дело, они просто разложатся и вымоются из тела.
В сердце этой исследовательской
программы лежит идея, что микроуправление процессами, чем заняты сейчас
молекулярная биология и медицина, не продвинет нас далеко. Нужно учиться
работать на верхних этажах иерархии живого, а принятие локальных решений
оставить организму и его частям — они справятся лучше. Иными словами, следует
стремиться «программировать наверху».
Для этого нужно глубже
понимать, по каким принципам работает живое. Сегодня такого понимания нет.
Естественно считать, что ДНК лягушки обеспечивает развитие лягушки, но
оказалось, что те же гены могут реализовать совсем другой план организма, не
имеющий шанса в природе, и он тоже будет жить, демонстрировать поведение и даже
размножаться.
Какие еще организмы с
ДНК лягушки могут быть воплощены, сколько их, по каким правилам они строятся? А
с ДНК человека?! На эти вопросы пока нет ответов, но сами вопросы отныне имеют
смысл.
«У нас клетки с
обычным геномом лягушки — по умолчанию они производят головастиков и лягушек —
но по факту они способны делать и другие интересные вещи. Их коллективный
ответ на новые условия складывается из разных видов межклеточного
общения, конкуренции и сотрудничества. И в этом часть понимания программного
обеспечения жизни», — говорит Левин.
Живые машины будущего
У этих исследований
есть и более глубокий смысл, где на кону фундаментальное видение природы и то,
как мы понимаем сложные системы в целом. Чем следует считать ксенобота —
биоматериалом, организмом или роботом, какая интерпретация ближе к истине?
Джош Бонгард и Майкл Левин, лидеры проекта, считают, что в XXI веке этот вопрос будет все менее
актуальным. Инженерная биология сотрет грань между организмом и
машиной.
Сегодня, говорит
Бонгард, эта грань хорошо видна в экспериментах. Ведь биологи всего лишь
перемешали клетки, и те заново собрались в нечто живое и организованное. Такое
свойство напрочь отсутствует в современных технологиях: если перемешать детали
автомобильного двигателя или компьютера, они перестанут работать. Это будут
просто груды железа.
У природы можно заимствовать эти гибкие архитектуры и принципы, которые
помогут сделать роботов по-настоящему автономными и адаптивными. Их будут
строить не из деталей, а из «деталей», которые сами являются роботами, которые
в свою очередь сделаны из роботов. Подобно тому как внутри клетки работают
молекулярные машины, а из клеток состоят органы и ткани, которые уже формируют
организм, обладающий поведением как целое.
Компоненты такого робота
могут быть живыми или включать части живого. Причем их будут проектировать с
участием эволюционного моделирования, и возникнут формы, которые никогда не
появляются в дикой природе. Так искусственный интеллект станет творцом новой
жизни.
Сегодня, глядя на
неуклюжие создания, барахтающиеся в чашке Петри, ученые всматриваются в «темную
материю» биологии. Они приходят к мысли, что потенциально существует
огромное скрытое пространство химерных машин и организмов «какими они могли бы
быть». Их свойства, поведение и принципы организации не известны, но их
уже можно пытаться изучать, и ксеноботы лишь первый гость,
шагнувший из этого гипотетического мира в реальный.
https://republic.ru/posts/102609
Разоблачаем «искусственное сознание» — как не надо хайповать на технологиях
https://vc.ru/future/158106-razoblachaem-iskusstvennoe-soznanie-kak-ne-nado-haypovat-na-tehnologiyah
Загрузите мне мозг. И тщательно промойте
Георгий Бовт о том, что сможет с вами сделать чип в голове и что сможете сделать вы с чипом
28.06.2021, 09:31
Недавно в СМИ прошла информация о некоей программе Минобрнауки, МГУ и еще одной госкорпорации аж на 54 млрд рублей под названием «Мозг, здоровье, интеллект, инновации». Речь о вживлении чипов в голову человека, которые позволят напрямую передавать в мозг информацию с внешних устройств и, соответственно, управлять силой мысли этими устройствами. Практически любыми. Возникнет так называемая нейроморфная система искусственного интеллекта. Отечественная программа должна была составить конкуренцию проекту Илона Маска Neuralink (основан в 2017 году), занятому как раз аналогичной тематикой. Илон Маск, иной раз кажется, вообще наш рулевой. Правда, никогда за ним не поспеваем. А тут буквально сразу же последовало вполне однозначное опровержение Минобрнауки: мол, программа признана «нецелесообразной» на уровне правительства, финансирования нет.
В то, что финансирования нет по линии Минобрнауки, – в это я охотно верю. В то, что программа такая свернута и не проходит теперь совсем по другому ведомству (которое формально правительству именно вообще не подчиняется), – извините, не верю ни секунды. Потому что не изучать – и получить – неограниченные возможности с помощью данных технологий, совершить прорыв сразу во многих областях, в том числе в управлении человеческим поведением, – это значит не иметь совсем никаких мозгов, даже обычных человеческих. К тому же настоящие «мозговеды» у нас всегда числились именно по «другому ведомству». Или вы хотите поверить в то, что наши ответственные руководители будут сидеть и ждать, пока появятся соответствующие зарубежные технологии, чтобы их потом купить для отечественных нужд? Даже не смешно. К тому же – не продадут.
…Уже в обозримом будущем (с горизонтом не более 10-20 лет) миллионы людей смогут подключиться к интернету непосредственно через мозг. В том числе к «интернету вещей», ко всему, что поддерживает технологию Bluetooth или ее будущий аналог.
Это может кардинально изменить не только медицину, каковую выпячивают как заведомо «гуманистическую аргументацию» в пользу таких технологий, но и, скажем, образование. Представьте, что вам не надо больше часами и годами учить не то что английский, но даже и китайский (что особенно ценно в нынешних условиях), а весь «софт» у вас моментально загрузится в мозг одним кликом. Не нужны станут школы и университеты в привычном нам понимании. На место учителей придут «системные администраторы», которые будут «готовить по профессиям» путем загрузки соответствующей программы в голову.
…возможность узнать, что «на самом деле» думает о тебе, себе, стране и окружающем мире тот или иной человек, – это полное потрясение основ общества в том виде, как мы его знаем или даже можем только представить. Мир уже не будет прежним.
Люди и сейчас уже зомбированы смартфонами, соцсетями и бесконечным «информационным шумом». Они уже практически и так готовы к чипированию.
И если сейчас, при отсутствии чипа в мозгах, интернет мгновенно ухватывает ваши текущие потребности и желания, подстраивая рекламу не то что под ваш конкретный поиск в сети, но просто под ваши устные разговоры в присутствии смартфона, то что же будет, когда в вашем мозгу появится чип?! Вот вы только подумали о холодном пиве в жару, а оно уже у вас в холодильнике, настроенном на автопополнение запасов.
Но боже мой, какой необъятный простор возможностей откроется для того, что сейчас называется государственным управлением! Ведь если граждане будут подключены к сети непосредственно через мозг, как сейчас к госуслугам, то, скажем, недобрые намерения можно улавливать именно на стадии зарождения любой противоправной мысли.
И пресекать мгновенно без отправки наряда Росгвардии, а посредством лишь «коррекционного сигнала». Можно настроить искусственный интеллект на автоматическую коррекцию всего противоправного в стране в режиме 24/7. Даже когда люди спят. Сны, знаете ли, тоже надо прочищать на предмет блокировки противоправного контента. Чтоб не стали явью.
Закончится, издохнет постылая, наконец, утомившая всех, а пуще всего ее непосредственных участников – политика, каковой ее придумали еще древние греки с римлянами. Особенно эта треклятая демократия. Она и так уже на последнем издыхании в силу взрывного развития информационных манипуляций и фильтраций. Но иногда и они не срабатывают и приходится вторгаться во всамделишную реальность посредством всамделишных же правоохранителей. А с чипами в мозгах все наладится и упростится.
Исчезнет само понятие «против», останется только «за». Новые поколения людей будут жить, не зная слова «не хочу», а только «хочу». Потому что и хотеть, выстраивать свои желания они научатся сугубо правильно.
Со смертью политики также умрет, вероятно, и само понятие свободы. И уже неважно будет, лучше она несвободы или нет. Важно, что «человек чипированный» (назовем его hominium concise) должен быть в состоянии постоянной гармонии – с условиями жизни, какими бы они ни были, со своей работой или родом занятий, с окружающей его действительностью и особенно с режимом, в условиях которого он живет в той или иной стране. И достижение таковой гармонии переходит из разряда задач, требующих экономического или политического решения, в разряд задач, имеющих решение чисто технологическое, программное в буквальном смысле этого слова.
Зачем что-то менять во всамделишной реальности, если можно полностью переехать мозгами в реальность виртуальную?
Удобство в стримах и общения в соцсетях, когда даже не надо пальцами клацать по клаве, удобство потребления и развлечений, когда угадывают (и диктуют одновременно) все твои желания, для десятков, сотен миллионов обывателей перевесит тягомотину так называемой политической вовлеченности с этим старомодными выборами и прочей ерундой, которая в нынешнем потребительском обществе и так уже стала почти бессмысленной, а скоро станет бессмысленной полностью и окончательно. Это когда достаток пива, жрачки, определенного круга развлечений и отдыха, а также туалетной бумаги важнее в глазах обывателя фракционного состава парламента.
Ах, да, есть одна проблема. Как заставить людей вживить чип в мозг? Ну, во-первых, скажут нам, это удобно. Это как подключиться к госуслугам. Не надо никуда ходить для выполнения каких-то бюрократических дел и всех остальных тоже. Даже писать ничего не надо: только подумать, упершись взглядом в ту или иную иконку на мониторе. При этом выражение «согласие на обработку персональных данных» приобретает, конечно, качественно новые звучание и смысл. Во-вторых, кому «неудобно», того заставят. Спустят разнарядку: к такому-то числу чипировать столько-то процентов сотрудников/жителей. И по приказу люди поймут, что лучше жить в гармонии, чем в борьбе за невесть что. Которое все равно есть обман, длящийся до конца дней твоих. Хотя, конечно, порой не менее увлекательный, чем сконструированная за вас виртуальная реальность. https://www.gazeta.ru/comments/column/bovt/13678106.shtml?updated
Мозгоправительство
Власти прорабатывают программу вживления чипов в мозг человека
Газета "Коммерсантъ" №105 от 22.06.2021, стр. 7
Как выяснил “Ъ”, в правительстве разрабатывают новую федеральную программу «Мозг, здоровье, интеллект, инновации», на которую до 2029 года потребуется 54 млрд руб. Среди прочего она ориентирована на развитие технологий «мозг—компьютер», позволяющих вживлять в мозг человека микрокомпьютеры для прямой передачи информации с внешних устройств. Также программа предполагает создание аватаров людей для дистанционного управления транспортом и компьютеров, которые помогают принимать решения. Эксперты отмечают, что в этом направлении у РФ есть определенные научные преимущества, однако оно серьезно недофинансировано…: https://www.kommersant.ru/doc/4867795
«ИИ не стремится достичь человеческого уровня»
Он развивает инопланетный тип интеллекта
Краткий
пересказ книги популярного израильского историка и мыслителя Юваля Ноя Харари «NEXUS: A
Brief History of Information Networks from the Stone Age to AI»
Предыдущая
статья: Юваль
Ной Харари: «Большинство
людей вообще не осознают, что происходит и что на кону»
В
сентябре 2024 года выходит новая книга популярного израильского историка
и мыслителя Юваля Ноя Харари. Она носит название «NEXUS: A Brief
History of Information Networks from the Stone Age to AI». Публикуем краткий
пересказ книги.
На
протяжении всей истории считалось, что некий «фатальный изъян человеческой
натуры» склоняет нас к тому, чтобы стремиться к силам, с которыми мы не знаем,
как справиться. В доказательство этого тезиса Харари приводит древнегреческий
миф о Фаэтоне и «Ученика чародея» Гёте.
К
XXI веку мы, по мнению историка, уже вывели климат Земли из равновесия и
призвали миллиарды дронов, чатботов и других «алгоритмических духов», которые
могут выйти из-под нашего контроля и вызвать поток последствий. Что же нам
делать?...:
Nav komentāru:
Ierakstīt komentāru