Каким будет мир Будущего?! (2)

 

                                                                              Discipulus est prioris posterior dies

 

 

 

Каким будет мир Будущего?! (2)

 

     Существенной чертой прогресса современной цивилизации стала оцифровка и роботизация общества в тесной связи со стремительным развитием искусственного интеллекта (ИИ). Это – революционные достижения, которые меняют основы общественного уклада, да и нас самих. Заставляют пересмотреть нынешние представления о роли человека в современной реальности, требуют тщательной оценки философского характера.

Продвижение этих объективных процессов определяется как вхождением новаторских технологий в нашу жизнь, так и дальновидными действиями политической элиты государств. А также международным сотрудничеством и господствующими тенденциями глобализации.

Поэтому особенно важным является осознание колоссальных потенциальных возможностей научного и технологического прогресса, а также выявление вероятных рисков и угроз в целях разработки продуманной стратегии для максимального использования достижений творческой мысли человечества в интересах всего общества, предотвращения их злонамеренного применения.

          ИИ функционирует в соответствии с разработанными программистами алгоритмами и совершенствуется, становится более умным в процессе машинного обучения. То есть, изначально ИИ полностью действует согласно воле человека, выполняя все запрограммированные в нем команды. Не сортируя и беспристрастно помогая претворить в жизнь заложенные в нем алгоритмы как с добрыми, так и, – как показывает опыт, – со злыми намерениями. Удовлетворяя прихоти и защищая привилегии тех лиц, которые инвестируют, заказывают, оплачивают и разрабатывают соответствующее установленным требованиям программное обеспечение. Фактически адекватно отражая противоречивость личности людей (в первую очередь, политического истеблишмента, олигархов, милитаристов, ученых), их симпатии и антипатии, а также коллизии добра и зла в обществе.

Это означает, что со временем (чем раньше, тем лучше!) следует обеспечить самоспособность ИИ контролировать свою деятельность, руководствуясь критериями гуманизма. Только такого рода ИИ может успешно решить столь болезненные для Человечества, существующие до сих пор экзистенциальные проблемы. Стать незаменимым, сострадательным, благородным и надежным помощником человека, создавая симбиоз партнерства и обеспечивая полноценную, долгую и здоровую жизнь каждого индивида. Это также позволило бы – не опасаясь непрогнозируемых рисков, – реализовать непостижимо грандиозный потенциал ИИ для управления природными стихиями и создания счастливого для всех нас мира Будущего.

Внедрение и использование ИИ требует разработки стратегии оцифровки государства национального масштаба (предпочтительно координируемой на международном уровне), комплексно включив в нее как инженерно-технические аспекты, так и основополагающие социальные, моральные, нравственные установки и юридические требования.

Поэтому жизненно важно не допускать дальнейшего нагромождения межгосударственных конфликтов, которое зачастую прикрывается в фарисейской манере псевдонациональными интересами, необходимостью адекватно реагировать на якобы агрессивные действия противоположной стороны. Шаблонно оправдывая и фальшиво аргументируя такого рода политику с помощью организованной государством пропаганды и целенаправленной дезинформации.

Почему же, казалось бы, умные лидеры государств, политическая элита по-прежнему продолжают взаимно разрушительный, приносящий беды всем народам курс?!

Недостойно человека примиряться с произволом политиков, – в очередной раз оправдывая или закрывая глаза на их циничные действия и авантюры, – влачить жалкое существование, так и не ища выхода из сложившегося политического тупика, оставаясь во тьме безнадежья.

Если имеется реальное и искреннее желание преодолеть межгосударственные противоречия, разоблачить лживые версии событий, не допустить военных конфликтов, то было бы целесообразно создать под эгидой ООН репрезентирующий мудрость Человечества и представляющий идеалы гуманизма институт – Консилиум (Арбитраж) Мудрецов.

Разумеется, на международном уровне для этого потребуется путем тяжелых и сложных переговоров договориться о целесообразности создания такого института, его составе, процедуре делегирования, порядке организации и деятельности, механизме исполнения решений, правовой ответственности государств и т.п.

Однако я глубоко убежден, что союз благородных и общеуважаемых духовных лидеров государств мира, богатых нравственными заслугами и выдающихся интеллектуалов, видных представителей интеллигенции способен мобилизовать и применить на деле коллективный разум. Быть объективными, справедливыми и непреложными судьями в глобальном масштабе. Инициировать соответствующие принципам гуманизма, конструктивные решения экзистенциальных проблем цивилизации. В рамках утвержденных прав принимать международно признанные и однозначно трактуемые решения о правомерности действий конкретных государств, о причинах конфликтов и ответственных за их развязывание лиц.

Таким образом шаг за шагом предотвращая извечные межгосударственные противоречия, устраняя причины их существования, а также их произвольные интерпретации. В некоторой степени перенимая (заменяя) прерогативы Совета Безопасности ООН, пересматривая и актуализируя его компетенцию в соответствии с современными требованиями (возможно, становясь альтернативой Совету Безопасности).

Внедрение интернета, новых информационных и коммуникационных технологий и их всестороннее использование делают нашу жизнь более качественной, более удобной, более комфортной. В то же время также социально более открытой и прозрачной, создавая широкие возможности для государственных и коммерческих структур отслеживать жизненную деятельность населения: собирать, обобщать, накапливать, синтезировать и анализировать ценящиеся на вес золота персональные данные. По известным лишь себе критериям оценивать идентичность людей, классифицировать их и создавать достаточно объективный и в целом достоверный социально-психологический портрет человека.

На такой основе принимать аргументированные, но однобокие, то есть вытекающие из интересов структур власти или коммерческих интересов решения, которые позволяют регулировать поведение людей, манипулировать ими и целенаправленно их использовать. Таким образом персональные данные применяются как оружие против самих людей. Разумеется, это противоречит нормам демократического общества, реально нарушаются принципы неприкосновенности частной жизни.

В то же время следует отметить, что глупо, даже безнадежно сопротивляться объективному ходу индустриальной революции 04, поскольку это было бы лишь тщетной попыткой вставлять палки в колеса на пути прогресса. Именно институты демократического государства призваны сбалансированно регулировать и строго контролировать, продуманно осуществлять надзор и оптимизировать аккумулирование персональных данных, чтобы обеспечить их рациональное использование исключительно в гуманных целях, то есть на благо всего общества.

Здесь в качестве авторитетного инициатора и международного координатора могли бы выступить уполномоченные структуры ООН, а также соответствующие учреждения Европейского союза. Это даже было бы обязанностью и миссией упомянутых международных организаций перед объединенными народами!

В случае попадания контроля над процессом становления цифровой цивилизации и управления персональными данными в руки автократов будет иметь место тотальная манипуляция народными массами (такая манипуляция – для демократии смертельно опасная – уже происходит!). Фактически реализуется постепенная, но непрерывная вивисекция личности каждого индивида и его жизнедеятельности, подразделяя ее на составные части, многогранно анализируя, целенаправленно ограничивая и манипулируя умами людей в интересах сохранения власти режимов тоталитарного характера.

Это означает, что, по сути, происходит злонамеренная приватизация идентичности граждан соответствующих государств, изворотливое использование их талантов и навыков для достижения целей самодержавия, подчинения воли и умов людей прихотям власти. Калеча их судьбы, делая их марионетками, держа их в беспрекословном повиновении и добиваясь насильственного загона жизни членов общества в рамки, установленные власть имущими.

Для идеологического обеспечения всего этого структуры власти стран бутафорской демократии системно спекулируют священными для каждого народа национальными ценностями, в популистской манере интерпретируют понятия суверенитета, свободы, циничным образом культивируют отрицающий основные ценности гуманизма радикальный национализм, вульгарный ура-патриотизм, завуалированный милитаризм.

Чтобы предотвратить этот очень опасный для демократического общества тренд развития, может быть недостаточно лишь протестов сознательной, активной части социума. Существенную роль здесь может сыграть ИИ, социально ответственное использование которого для оптимизации^[1] организации государственного управления – доверив функции компетентного советника, общепризнанного эксперта, превосходного аналитика, даже беспристрастного судьи, – способно обеспечить эффективную реформацию и рациональную реорганизацию всего социального уклада. В то же время такое решение также поможет свести к минимуму (при наличии честных намерений!) возможные риски злонамеренного использования персональных данных.

Следует подчеркнуть, что в настоящее время можно использовать оригинальную версию интернета «Solid»^[2], разработанную инициатором глобальной сети Сэром Тимоти Джоном Бернерсом-Ли (Sir Timothy John Berners-Lee).

С созданием Solid возрожден первоначальный идеал автора всемирной сети о децентрализованной системе коммуникации и обмене данными, в которой все ее участники полностью равноправны, неопосредствованно коммуницируют друг с другом.  

  Такую децентрализованно организованную сеть, в которой ее участники свободно и на равных условиях обмениваются информацией, практически невозможно подавить, насильственно ограничить, использовать для скрытой аккумуляции персональных данных и контролирования ее пользователей в интересах структур власти. Фактически это означает реализацию принципов прямой демократии в интернет-среде, поскольку в децентрализованном обществе функции государственной власти трансформируются и постепенно отмирают.

Многогранная интеграция инновационных информационных технологий в национальную экономику, роботизация производства, а также сервисных услуг, обработка больших массивов данных (Big Data) на базе ИИ – всё это стремительно повышает производительность. В результате исчезает острая необходимость посвящать большую часть своей жизни наемному малоквалифицированному труду, чтобы удовлетворять повседневные потребности.

 Появляются возможности сократить количество рабочих дней, уделять дополнительное время совершенствованию личности индивида, креативной деятельности и росту. Таким образом впервые в истории цивилизации для каждого члена общества открываются широкие возможности стать творческой личностью, самоутвердиться, всесторонне реализовать свой индивидуальный потенциал – быть достойным имени Человека как на словах, так и на деле!

          Именно наша жизненная позиция, реакция на прогрессивные изменения определяет реализацию такого или подобного видения цифровой эпохи. То есть, сценарий Завтрашнего мира пишется при нашем участии. Или, к сожалению, без нас!

 Всё это зависит:

➤ от наших искренних попыток углубиться и понять происходящее вокруг;

➤ от наших представлениях об идеалах гуманизма и несокрушимого доверия этим идеалам  как на словах, так и на деле;

➤ от нашего желания быть дальновидными, не зацикливаться на обыденности и найти в себе силы подняться над уровнем повседневных забот, выходить за узкие рамки профессиональной ограниченности каждого;

➤ от нашей способности быть социально ответственными и преодолевать корыстный эгоизм, карьеризм, соблазны денег, сиюминутного комфорта и славы:

- чтобы за Иудовы гроши не предоставлять свои услуги угнетателям народа, тиранам, не приносить в жертву свои умения, таланты и интеллект ради укрепления тоталитаризма;

- чтобы не поддаваться одурманиванию пропагандой, – бессмысленно жертвуя своей жизнью ради защиты недемократической системы власти, ее сохранения в частных интересах одиозных вождей и кланов;

➤ от нашей решимости апробировать, внедрить и потребовать легитимного статуса для использования Паспорта социальной идентичности (ПСИ)^[3] в целях получения развернутой, корректной, объективной характеристики личности любого политика и тем самым обрести твердую уверенность в индивидуальном соответствии каждого кандидата на получение полномочий власти и мандата доверия избирателей;     

➤ от нашего осознания необходимости сплотиться во имя защиты своего человеческого достоинства, чтобы обрести эффективную способность противостоять брутальному давлению деспотической власти;

➤ от качества ясного ума, который помогает не поддаваться реализуемой пропагандистской машиной власти обманной мотивации и дезориентации, а также навязываемым ею предрассудкам;

➤ от нашего мужества не примиряться с крошками с барского стола в качестве несправедливой оценки самоотверженного труда и неадекватного вознаграждения за беспощадную эксплуатацию своего интеллекта;

➤ от нашего умения отделять правду от дезинформации, от ложных новостей, обманных версий;

➤ от индивидуальной мотивации объективно воспринимать и познавать сегодняшнюю многогранную реальность.

      В соответствии с ней консолидироваться, целенаправленно и энергично действовать, преодолевая глубоко вгнездившуюся инфекцию обывательщины, порожденные атмосферой мнимой беспомощности и эгоизма рецидивы пофигизма, распространяемые системой государственной пропаганды стереотипы страха и ненависти, шаблоны антигуманного восприятия.

                     Эрвин Цейхнер, Dr.oec

29.10.2018

---

 [1] О том, что такое предложение вовсе не носит утопического характера, свидетельствует подготовленный  группой сенаторов США Акт «Об усовершенствовании использования искусственного интеллекта федеральным правительством» (Schatz, Gardner Introduce Legislation To Improve Federal Government's Use Of Artificial Intelligence: https://www.schatz.senate.gov/press-releases/schatz-gardner-introduce-legislation-to-improve-federal-governments-use-of-artificial-intelligence)

 [2] https://solid.inrupt.com/

[3] http://ceihners.blogspot.com/

 ChatGPT: сага о контроле

Кто владеет нейросетевыми алгоритмами, тот владеет миром. Как технологию пытаются подчинить себе правительства и корпорации?

18 мая 2024 Сергей Голубицкий

OpenAI представила новую версию ChatGPT-4 Omni, которая выглядит прорывом в возможностях современных нейросетей по обработке информации. Ключевое отличие ChatGPT-4o заключается в возможности одновременной работы с текстом, изображениями и звуком, что позволяет создавать новые пользовательские сценарии. Опубликованы первые демонстрационные видео, в которых нейросеть поддерживает общение на естественном языке, распознает эмоции человека, описывает увиденное через камеру телефона, переводит беседу людей или помогает в решении математических задач. Пользователи отмечают, что возможности новой платформы вплотную приблизились к уровню голосового помощника, показанного в фантастическом фильме «Она» (2013).

Нейросети, работающие с большими языковыми моделями (LLM, Large Language Models), в считанные годы стали ключевой технологической инновацией в современном мире, и радикально меняют сценарии работы людей с информацией. Судя по возможностям ChatGPT-4o, сейчас эта революция только набирает ход.

Обозреватель «Новой-Европа» Сергей Голубицкий рассказывает о том, как разворачивается борьба за контроль над технологией: как правительства, корпорации и гражданское общество стремятся воспользоваться возможностями LLM и обезопасить себя от рисков.

Пример возможностей ChatGPT-4o

Сюжет минувшей осени — об изгнании Роберта Альтмана с поста руководителя OpenAI («Сэм Альтман и кликуши апокалипсиса») — завершился хэппи-эндом, приправленным фактурной конспирологией. Провидца, мол, сместили исключительно потому, что правление компании накануне получило важный «сигнал». Группа озабоченных сотрудников сигнализировала об изобретении в недрах компании новой модели LLM, способной самостоятельно находить информацию, отсутствующую в исходных данных нейросети.

Иными словами, движок ChatGPT, мол, вышел на уровень Сверхинтеллекта, и Правление, обремененное моральной ответственностью перед человечеством, отодвинуло гендира от корпоративного штурвала, дабы не допустить монетизации в частный карман столь опасного оружия.

Единственная толика логики и правды в этом конспирологическом бреде — слово «монетизация». Потому что и безо всякого Сверхинтеллекта (который, разумеется, никем нигде еще не создан) речь идет об умопомрачительных цифрах: по самым скромным оценкам, в 2032 г. объем мирового рынка искусственного интеллекта (ИИ) достигнет $2 трлн 575 млрд.

Очевидно, что мимо таких сумм не в состоянии пройти ни одна живая душа, ни одно правление, ни одно государство. Неудавшийся корпоративный переворот в OpenAI отодвинул поиски Сверхинтеллекта на второй план (по крайней мере — в публичном поле), а на первый вывел борьбу за власть и контроль. Борьбу, которая одновременно ведется с трех сторон: корпораций, государственных ведомств и гражданского общества.

Исход борьбы неизвестен, но несомненна одна истина: кто будет контролировать развитие моделей LLM в мире, тот будет контролировать весь мир. В этой статье я постараюсь представить читателям расклад сил, сложившийся сегодня на

Кто охотится на LLM

Начну с ключевого парадокса. Структуры, ответственные за львиную долю научных разработок и практических реализаций в сфере LLM: корпорации OpenAI, Google, Microsoft, Anthropic, Meta, Amazon, Cerebras, xAI (все из США), Huawei и Baidu (Китай), DeepMind (Великобритания; с 2014-го принадлежит Google), Mistral AI (Франция), Yandex (РФ), — сегодня оказались в роли добычи, за которую сражаются два охотника.

Охотник по имени Голиаф — это Государство (в лице национальных государственных структур); охотник по имени Давид — гражданское общество, которое в меру ограниченных сил и возможностей также пытается застолбить себе хоть какое-то независимое место под солнцем.

Несмотря на неравенство сил и возможностей, охотников объединяет именно что объект охоты — те самые корпорации, из которых правдами и неправдами вырываются и выгрызаются самые сочные куски know-how и готовой продукции.

Да не подумает читатель, что я спятил и добровольно стал под знамя Айн Рэнд в роли общественного защитника обиженного класса дерзких предпринимателей и загнобленного laissez-faire капитализма! Боже упаси. Я лишь констатирую очевидное:

история последней четверти века с неоспоримой однозначностью демонстрирует неспособность корпоративного мира противостоять как государственному контролю, так и экспроприации знаний и информации гражданским обществом.

Характерно, что в обозначенном сценарии нет геополитических исключений. Полагаю, дополнительные комментарии излишни в контексте стран т. н. Глобального Юга, в которых частные корпорации обладают правом голоса сугубо в вопросах тактического развития самого бизнеса. Все стратегические решения, а также контроль за услугами и продуктами, затрагивающими интересы государства, давно делегированы этому самому государству. Причем это делегирование оформляется давно уже не косвенно, а в лоб — через назначение чиновников на руководящие посты в Правлениях корпораций.

Если кто-то питает сомнения, предлагаю вспомнить о судьбе создателя Alibaba Group Ма Юня (известного более как Джек Ма), который держался на своих постах ровно до момента, пока не осмелился беззубо покритиковать госрегулирование отрасли и банковскую систему. После пресс-конференции он исчез с публичных радаров на три месяца (с октября 2020-го по январь 2021-го). Затем объявился, однако уже в сугубо частном статусе — на благотворительных лекциях перед сельскими учителями и на площадках для гольфа.

В странах Глобального Севера государственный контроль над корпорациями, очевидно, завуалирован в общественном сознании словесным флером про «неотъемлемые права и свободы» и «неприкосновенность собственности». Однако на практике это оборачивается нескончаемыми патчами, заплатками и алгоритмами проприетарного шифрования, которыми государственные ведомства, отвечающие за «национальную безопасность», награждают программный код мессенджеров, почтовых программ и операционных систем, создаваемых корпоративными разработчиками.

Всё это делается под благостным предлогом борьбы с «мировым терроризмом» или «обходом санкций» (во втором ряду стоит набившая оскомину демагогия про педофилов, наркоторговцев и налоговых уклонистов).

Охота гражданского общества на корпоративных зайцев хоть и проявляется не столь кровожадно, как охота государства, однако также наносит ощутимый урон птенцам гнезда Джона Голта (мистический персонаж «Атланта, расправившего плечи» Айн Рэнд, который символизирует неугомонную природу корпоративного гения капитализма. — Прим. авт.). Достаточно сказать, что за 30 лет изучения софтостроения я не встретил ни одного программного продукта, который бы не был, как бы это мягче сказать, «творчески позаимствован» народными массами, свято верящими, что знание обязано быть свободным. Тотальное поражение партии копирайта во всех сферах энтертейнмента — от аудио и видео до книжной и визуальной продукции — еще одно подтверждение того, что продукт, созданный корпоративно оформленными авторами, рано или поздно, но всегда безвозмездно попадает в руки обывателя, не желающего платить за красоту.

Ниже я покажу, как гражданское общество пытается сохранить для себя хоть какой-то оазис, свободный от государственного контроля, с помощью децентрализованного искусственного интеллекта, который, однако, на 80% состоит из продукции, созданной корпоративным (читай: «централизованным» бизнесом). Прям дарвинизм в хрестоматийном формате.

Государство против корпоративных нейросетей

Посмотрим теперь, как моя метафора жертвенного заклания главного двигателя LLM — корпоративного бизнеса — реализуется сегодня на практике.

Начнем с грубого — государства. Фоном для неудавшегося корпоративного переворота в OpenAI послужил Исполнительный Указ №14110 (Executive Order 14110), подписанный президентом США Джо Байденом 30 октября 2023. Этот плод чиновничьего гения стал кульминацией неудачных попыток государства мирно договориться с американскими корпорациями, разработки которых лежат в основе исследований в области AGI (Artificial General Intelligence, Систем универсального интеллекта).

Мы помним («Матрешки зла»), как в начале 2023-го государство руками кукольного юрлица Future of Life Institute предложило корпоративным разработчикам LLM «добровольно заморозить» исследования в области AGI. Не нужно строить иллюзий: чиновник — существо хоть и недалекое, но с уникальным чутьем конъюнктуры, поэтому под «заморозкой» подразумевалось, конечно, не прекращение исследований, а их «упорядочивание». Разумеется, под эгидой самой ответственной части человечества, т. е. чиновничества.

Все корпоративные руководители (от Альтмана до Сундара Пичаи и Сатьи Наделлы) уважительно покивали, однако продолжили исследования «размораживать». По понятной причине: если остановить хотя бы на один день изыскания в области AGI, отрыв от конкурентов, инкорпорированных за пределами США, станет критическим.

Второй демарш государства в 2023-м мы также разбирали («Дипфейк на оба ваши дома»): на майском совещании в Белом доме и на слушаниях в Конгрессе претензии к корпоративным исследованиям AI расширили на сферу этики. Госслужащие и конгрессмены-сенаторы предположили, что «дипфейки» обернутся визитной карточкой президентских выборов-2024.

Наконец, в октябре 2023-го президентский исполнительный указ №14110 о «Безопасной, надежной и вызывающей доверие разработке и использовании искусственного интеллекта» (Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence) формализовал интенции государства в сфере LLM в восьми принципах.

ВОСЕМЬ ПРИНЦИПОВ ИИ ПО ВЕРСИИ АДМИНИСТРАЦИИ ПРЕЗИДЕНТА США

1. ИИ должен быть безопасным и надежным. Для этого государство должно разработать эффективные механизмы маркировки происхождения контента, по которым американцы смогут определять, когда контент создается с использованием ИИ, а когда нет.

2. Государство должно содействовать ответственным инновациям, конкуренции и сотрудничеству. Для этого администрация будет поддерживать программы по предоставлению американцам навыков, необходимых им в эпоху ИИ. А также привлекать таланты в области ИИ со всего мира — не только для учебы, но и для постоянного проживания, чтобы компании и технологии будущего создавались в Америке.

3. Ответственная разработка и использование ИИ требуют поддержки американских рабочих.

4. Политика в области ИИ должна соответствовать стремлению администрации продвигать равенство и гражданские права.

5. Использование новых технологий, таких как ИИ, не освобождает компании от их юридических обязательств. С трудом завоеванные принципы защиты потребителей особенно важны в моменты технологических перемен.

6. Неприкосновенность частной жизни и гражданские свободы американцев должны быть защищены, поскольку ИИ упрощает извлечение, идентификацию и связывание конфиденциальной информации о личности с ее местоположением, привычками и желаниями. Возможности ИИ в этих областях увеличивают риск того, что личные данные могут быть использованы и раскрыты. Для борьбы с этим риском федеральное правительство обеспечит законность и безопасность сбора, использования и хранения данных, и снизит риски неприкосновенности частной жизни и конфиденциальности. (Сразу хочу обратить внимание читателей на одну пикантность пункта 6: до появления ИИ вся приватная клиентская информация благополучно находилась в эксклюзивном пользовании корпораций: Google, Apple, Facebook, Microsoft, Amazon и т. п. Теперь же ИИ лишил их монополии и предоставил доступ к частной информации всем желающим. Из этого вопиющего беспредела администрация Байдена делает «логичный вывод»: контроль необходимо вернуть обратно, но только не корпорациям, а государству. — Прим. авт.)

7. Рисками, связанными с использованием ИИ, важно управлять самим федеральным правительством. Важно повышать его внутренний потенциал по регулированию, управлению и поддержке ответственного использования ИИ для достижения оптимальных результатов для американцев.

8. Федеральное правительство должно проложить путь к глобальному социальному, экономическому и технологическому прогрессу, как это делали Соединенные Штаты в предыдущие эпохи прорывных инноваций и перемен.

Воплощать президентский указ №14110 поручили ведомству, которое не оставляло сомнений в истинной сути государственного демарша, — Департаменту внутренней безопасности (Department of Homeland Security, DHS).

Ключевой документ для понимания происходящего — регулярный доклад «Оценка угроз для отечества на 2024 год» (Homeland Threat Assessment 2024), подготовленный Управлением разведки и анализа (Office of intelligence and analysis) при DHS.

В докладе называются прямым текстом главные враги отечества, которым необходимо активно противодействовать в сфере ИИ: Китай, Россия и Иран. Главная проблема — возросшее качество движков генеративного ИИ, которые уже позволяют создавать предельно достоверную текстовую, изобразительную и видео-продукцию, практически не отличимую от той, что создается человеком.

Если раньше китайские, русские и иранские веб-сайты писались на корявом английском языке, то сегодня законспирированный китайский портал безупречным слогом Шекспира рассказывает наивному и доверчивому американскому обывателю о том, как «Соединенные Штаты управляют лабораторией в Казахстане по созданию биологического оружия против Китая».

Другой пример из доклада: «RT (ранее Russia Today) запускает в социальные сети дипфейковое видео, созданное с помощью искусственного интеллекта и унижающее президента США и других западных лидеров».

На фоне такого ИИ-беспредела, по мысли DHS и правительства, нужно интенсифицировать противоборство. Особенно в год президентских выборов, когда «Россия, скорее всего, продолжит использовать традиционные средства массовой информации, подставные веб-сайты, социальные сети, онлайн-боты, троллей и частных лиц для распространения прокремлевских нарративов и проведения мероприятий по оказанию влияния внутри Соединенных Штатов».

Кроме того: «После вторжения в Украину российские сообщения были сосредоточены на оправдании своей агрессии, стремлении уменьшить внутреннюю поддержку Киева со стороны США и поощрении разногласия среди разнообразных глобальных партнеров, которые помогают Украине».

Очевидно, что перед лицом угроз, исходящих от стратегических врагов, необходимо срочно обеспечить единый фронт борьбы внутри самих Соединенных Штатов.

Вот только как можно эффективно бороться на фронтах ИИ, если эти ИИ находятся в руках частного бизнеса? Разве может частный бизнес дать скоординированный достойный отпор врагу? Вопрос, разумеется, риторический…

Если бы речь шла про какое-то государство Глобального Юга, то проблема органично решалась бы еще до того, как ее артикулировали. В нужные офисы пришли бы уполномоченные товарищи, на пальцах всё объяснили и встретили экстатичное понимание с одобрением. После чего отношения «корпорация–государство» свелись бы к скучным резолюциям, спускаемым сами-знаете-от-кого и исполняемым с сами-знаете-какой результативностью.

Речь, однако, идет о государстве Глобального Севера. Поэтому прийти вот таким залихватским матросом железняком в офис Пичаи-Маска-Альтмана-Наделлы не то чтобы совсем не получится, но как-то уж очень радикально будет противоречить правилам игры, утвержденным без малого 300 лет тому назад.

Министерство нейросетей

Для того чтобы читатель мог оценить элегантность методов, с помощью которых государство предпочитает контролировать корпоративный бизнес в странах победившего капитализма, достаточно рассмотреть первый шаг DHS, направленный на получение этого самого контроля.

26 апреля 2024 года «Департамент внутренней безопасности объявил о создании Совета по безопасности искусственного интеллекта (Artificial Intelligence Safety and Security Board). Совет будет консультировать главу департамента, представителей критической инфраструктуры, другие заинтересованные стороны из частного сектора и широкую общественность по вопросам безопасной и надежной разработки и внедрения технологий искусственного интеллекта в критической инфраструктуре нашей страны. Совет разработает рекомендации, которые помогут заинтересованным сторонам критически важной инфраструктуры, таким как поставщики транспортных услуг, операторы трубопроводов и электросетей, а также интернет-провайдеры, более ответственно использовать технологии ИИ. Он также разработает рекомендации по предотвращению и подготовке к сбоям в работе критически важных услуг, связанных с искусственным интеллектом, которые влияют на национальную или экономическую безопасность, общественное здравоохранение или безопасность».

В Совет по безопасности ИИ при DHS пригласили 22 видных деятеля, которые дружно заявили о том, какая это для них честь и ответственность.

Десять членов Совета — руководители корпораций, создающих ключевые продукты LLM и выпускающих всё необходимое для ИИ оборудование:

• Дженсен Хуанг (Jensen Huang), президент и CEO NVIDIA;
• Сэм Альтман (Sam Altman), гендиректор OpenAI;
• Дарио Амодей (Dario Amodei), гендиректор Anthropic;
• Арвинд Кришна (Arvind Krishna), председатель правления и CEO IBM;
• Сатья Наделла (Satya Nadella), председатель правления и CEO Microsoft;
• Шантану Нарайен (Shantanu Narayen), председатель правления и CEO Adobe;
• Сундар Пичаи (Sundar Pichai), гендиректор Alphabet (Google);
• Чак Роббинс (Chuck Robbins), председатель совета директоров и CEO Cisco;
• Адам Селипский (Adam Selipsky), CEO Amazon Web Services;
• Лиза Су (Lisa Su), президент и гендиректор Advanced Micro Devices (AMD).

Остальные участники Совета — меланж из чиновников и научных работников.

Есть также два руководителя корпораций из системообразующих отраслей: Эд Бастиан (Ed Bastian), CEO Delta Air Lines, и Вики Холлуб (Vicki Hollub), президент и гендиректор Occidental Petroleum.

Что же мы получаем в сухом остатке? Руководители всех ключевых корпораций американского ИИ в тесной связке с чиновниками и учеными мужами под эгидой DHS (называя вещи своими именами: министерства госбезопасности) будут воплощать в жизнь политику государства в области ИИ под лозунгом противостояния экзистенциальным врагам. Если это не попытка государства взять под контроль развитие всей отрасли, то я не знаю, как иначе можно решить поставленную задачу в стране Глобального Севера (без того, чтобы она не превратилась в страну Глобального Юга).

DAI: децентрализованный искусственный интеллект и гражданское общество

Рассмотрим теперь третьего игрока в борьбе за контроль над ИИ — гражданское общество. На старте этот бедолага оказался в самом невыгодном положении. На протяжении четверти века вся информация, касающаяся частной жизни граждан, находилась в эксклюзивном владении корпораций IT.

Справедливости ради нужно отметить, что гражданское общество добровольно повторило «подвиг» Исава и обменяло свое первородство (корпус приватных данных — самый ценный капитал эпохи цифровых технологий) на чечевичную похлебку, сваренную из лайков и «15 минут публичной славы для маленького человечка», которую корпорации IT любезно предоставили в формате Web2 — социальных сетей и мессенджеров.

В текущих обстоятельствах гражданское общество попало уже под двойной удар. Мало того, что практически все научные разработки в сфере LLM, все готовые продукты (модели вроде ChatGPT), всё оборудование, необходимое для обучения нейросетей, и вся инфраструктура коммуникаций (облачные сервисы вроде AWS) создаются и полностью контролируются частными корпорациями, так теперь еще и государство вознамерилось эти корпорации себе подчинить под благовидным предлогом «Отечество в опасности!»

Перед гражданским обществом остро встал вопрос: «Как обеспечить независимость развития моделей ИИ и избавить их от любого контроля?»

Общество никогда не получит своего места под солнцем ИИ, если попытается по отдельности противоборствовать корпоративному контролю и контролю государственному.

Нет ни малейшего шанса. Благо, у гражданского общества есть полное понимание ситуации, поэтому был выбран единственный верный вектор приложения усилий — создание DAI, Decentralized Artificial Intelligence, систем децентрализованного искусственного интеллекта.

И здесь на горизонте возникают сложности (назовем их трудностями Web3), которые напрочь затмевают прежние «договоры с дьяволом» (Web2). Это только навскидку кажется, что децентрализация ИИ — лишь вопрос открытого кода, открытой сети (криптосети) и открытого учета данных (блокчейна). Эти три кита, разумеется, обеспечивают необходимые условия формата, в котором может состояться децентрализация. Формат, однако, это еще не содержательное наполнение.

Начнем с определения. DAI, или децентрализованный искусственный интеллект «относится к системам искусственного интеллекта (ИИ), которые используют технологию блокчейна для распределения, обработки и хранения данных в сети узлов. В децентрализованной системе искусственного интеллекта пользователи могут применять предварительно обученные модели ИИ на своих локальных устройствах, что позволяет им извлекать выгоду из результатов, полученных с помощью ИИ, не передавая контроль над своими данными централизованному органу. Этот подход позволяет пользователям применять готовые модели ИИ для обработки данных локально на своих устройствах и делиться только результатами с третьими сторонами. Он сохраняет конфиденциальность, избегая передачи основных личных данных».

Пока всё замечательно, потому что речь идет о форматах. В самом деле, технология блокчейна, смарт-контракты, федеративное обучение, гомоморфное шифрование, состязательная нейронная криптография и безопасные многосторонние вычисления теоретически способны обеспечить процесс обучения нейросетевой модели. Не более, однако, чем теоретически.

Искусственный интеллект как явление представляет собой стек технологий и алгоритмов. Во-первых, нужна серверная сеть, способная вбирать в себя колоссальные массивы информации, поступающей из внешнего мира (через интернет) в реальном времени. Во-вторых, нужно оборудование с предельно высокой процессорной вычислительной мощностью для обработки поступающей извне информации и для подачи ее на входные узлы обучаемой нейросетевой модели. В-третьих, нужно оборудование с колоссальной графической мощностью непосредственно для обучения нейросетевой модели. В-четвертых, нужны математические алгоритмы, воплощенные в надежный компьютерный код, помноженные на, опять-таки, высокопроизводительное оборудование для того, чтобы произвести точную настройку данных на выходных узлах нейросети, а также для обеспечения вывода.

Только после всей этой гигантской работы пользователю является его величество поле промпта, в которое он волен вписать любую глупость, чтобы запросить ответ нейросетевой модели ИИ.

Очевидно, что за моими суперлативами про колоссальные мощности и оборудование скрывается неумолимая истина: технологии ИИ предельно заточены на централизацию и концентрацию вычислительных возможностей. Иными словами, решать вопросы, связанные со всеми этапами содержательного наполнения LLM, под силу не просто корпорациям, а исключительно гигантским централизованным корпорациям. Тем, что обладают неограниченными денежными ресурсами и техническими возможностями для мобилизации усилий в нужном направлении на любом этапе жизни моделей ИИ: от сбора информации до финальной доводки промпта.

Экономлю читателям уйму времени и предлагаю взять на веру следующее утверждение: у гражданского общества в обозримые многолетия даже отдаленно нет технических возможностей и материальных ресурсов для создания конкурентоспособных LLM, способных противопоставить лучшим корпоративным моделям что-то, кроме осознания собственного нравственного превосходства.

Как следствие, все существующие сегодня не то что практические реализации, но даже концептуальные решения для DAI (децентрализованных систем ИИ) являются гибридными. И не остаточно гибридными, а предельно гибридными, потому что большая часть этапов построения LLM реализуется с помощью централизованных корпоративных решений.

В создании современных DAI ключевую роль играют маршрутизаторы компании CISCO, серверы IBM, облачная инфраструктура AWS, не говоря уже про бесчисленные софтверные решения, которые «творчески заимствуются», опять-таки, из корпоративных централизованных источников. Без этого, увы, никуда.

Но даже перечисленное не передает всей сложности задач, поставленных децентрализацией ИИ. За рамками обсуждения я оставил весь аспект координации усилий по сведению воедино всех блоков и модулей LLM.

Всякий, кто хоть раз в жизни пытался заставить толпу конченых индивидуалистов выполнить сообща мало-мальски простую групповую задачу, поймет, о каких невообразимых сложностях идет речь.

В сухом остатке мы получаем область, в которой децентрализованный ИИ преуспевает больше всего, — заключительный этап построения LLM, то есть «вывод». На сегодня именно работа над выводом и промптом, их тонкая доводка представляет собой наиболее практичный и реалистичный сценарий для развития децентрализованного генеративного ИИ. Тем более, что это и единственно возможный сценарий на текущем уровне развития технологий, доступных за пределами корпоративного и государственного контроля.

Отдадим должное реалистичности оценок, которые разделяет большинство активистов движения за децентрализацию ИИ. Сегодня ключевым инструментом такой децентрализации выступает публичный маркетплейс (Public Marketplace) — площадки, на которых в свободном открытом и инклюзивном доступе находятся бесчисленные библиотеки исходных данных (Datasets), ИИ движки и модели.

Формат маркетплейса (читай: рынка) авантажен еще и потому, что решает ключевую для успеха всякой инициативы задачу — мотивации и поощрения, без которых совсем уж несерьезно говорить о перспективах развития DAI. На чистом энтузиазме и красивых лозунгах долго не протянет ни одна общественно-бескорыстная инициатива.

Приведу несколько примеров уже реализованных на практике успешных решений, которые в первом приближении стараются обеспечить будущую конкурентоспособность моделей DAI.

Сеть Render вознаграждает (раздачей собственного ревордного токена) участников за предоставление свободных вычислительных мощностей сетевым художникам, которым требуется рендеринг изображений, но у которых нет вычислительных ресурсов для достижения своих целей. Решения такого типа координируют работу людей в рамках ИИ с помощью финансовых стимулов, а технология блокчейн делает их возможными.

Нейроискусство кино

ИИ уже научился омолаживать и даже воскрешать актеров, придумывать сюжеты и рисовать мультики. Работники индустрии рискуют профессией, а зрители не всегда довольны результатом

Другой успешный опыт по децентрализации LLM — маркетплейс Hugging Face, который содержит почти 650 тысяч готовых моделей искусственного интеллекта с открытым исходным кодом, включая большие языковые модели, генераторы изображений и многое другое. Там же выложено 143 тысячи готовых датасетов, которые можно использовать для тонкой настройки не только узлов вывода нейросети, но и самого процесса ее обучения.

SingularityNET позволяет агентам ИИ интегрироваться с сетью для взаимодействия со сторонними приложениями или другими агентами.

Bittensor создает одноранговый рынок машинного интеллекта, в котором децентрализованные независимые модели ИИ могут объединять свой «интеллект», создавая, по сути, «цифровой коллективный разум».

***

Подведем итог. Объективная реальность такова, что в обозримой временной перспективе нас ожидает лишь борьба за контроль между крупнейшими корпорациями и государственными структурами. Борьба с почти гарантированной победой государства и, как следствие, перманентной склонностью моделей LLM генерировать контент, содержательно соответствующий геополитическим установками того государства, который данную модель LLM контролирует.

Перевожу сказанное на язык прагматики: если при корпоративном контроле движки ИИ подозрительно часто выдавали рекомендации, тексты и изображения, которые тяготели к монетизации тех или иных слабостей, предпочтений и интересов кверента (человека, вводящего запрос модели ИИ), то при государственном контроле можно не сомневаться, что нас ждут сугубо идеологические изнасилования разума и психики. Вместо денег будет формирование «правильных» (= нужных государству) взглядов и оценок.

Что касается DAI, децентрализованной альтернативы ИИ, то она, опять-таки, в обозримом будущем будет оставаться привилегией очень узкой, интеллектуально и технологически продвинутой прослойки общества. Той части общества, что и в прошлые времена не спешила повторять «подвиг» Исава.

https://novayagazeta.eu/articles/2024/05/18/chatgpt-saga-o-kontrole

29 МАЯ 2022

Децентрализованное общество Web3: доверие, сотрудничество, ачивки. 

Разбор и критика нашумевшей визионерской статьи Виталика Бутерина

11 мая 2022 вышла визионерская статья «Децентрализованное общество: поиск Души Web3» : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4105763  от сооснователя платформы Ethereum Виталика Бутерина, экономиста Глена Вейла и исследовательницы в области безопасности биржевых торгов Пуджи Олхавер. Авторы считают, что в ближайшем будущем может возникнуть подлинное децентрализованное общество, для краткости называемое DeSoc.

Оно будет развиваться на базе новой концепции интернета Web3, которая охватит не только финансы, но и социальную сферу.

Итерации Интернета

Прежде всего стоит рассказать, ⁠что такое Web3 и другие итерации интернета. С Web 1.0 ⁠сеть начиналась: простые страницы, содержащие преимущественно текстовый и статичный визуальный ⁠контент. Большинство пользователей этот контент потребляли, а не производили, так как ⁠размещение контента почти всегда требовало содержания или аренды ⁠сервера. Много внимания ⁠уделялось вопросам безопасности и конфиденциальности.

В первой половине нулевых ⁠случился переход к концепции Web 2.0: здесь каждый пользователь мог дополнять и создавать контент. В интернете появлялось всё больше рекламы, и он начал превращаться в площадку для заработка. В этих реалиях мы живем и сейчас. Разделение на Web 1.0 и Web 2.0 — условность, это не связано с технологическими различиями.

Логично было бы предположить, что в ближайшем будущем произойдет переход к некоторому «Web 3.0». И действительно, такая концепция была разработана в нулевых: в ее основе лежит стандартизация информации, чтобы она была пригодна для машинной обработки, и массовая автоматизация информационного обмена.

Но у «бренда» Web 3.0 с недавних пор есть «конкурент» с похожим названием — концепция Web3, которую придумал в 2014 году сооснователь Etherium Гэвин Вуд. Ее главная идея — радикальная децентрализация, реализуемая через блокчейн-технологию. Некоторые авторы полагают, что обе эти концепции по сути — одно и то же явление, но все же их стоит различать: Web3 — это эволюционное ответвление Web 3.0.

Блокчейн и токены

Концепция Web3 опирается на блокчейн. Это криптографическая технология, которая заключается в создании упорядоченной цепочки из блоков информации. В каждом новом блоке закодирована информация о предыдущем блоке. Таким образом, при работе с цепочкой возникает необходимость изменить информацию в блокчейне для сохранения связности. Это может потребовать больших энергетических затрат из-за сложности кодировки, а еще из-за того что информация о блокчейне хранится на разных компьютерах. Такая организация надежно защищает и сохраняет информацию о транзакциях, позволяет сократить расходы на безопасность и бюрократию, проводить сделки быстрее.

Сейчас блокчейн применяется в основном для транзакций криптовалют. Его используют и в других областях, которые требуют повышенной кибербезопасности, но все же основная область приложения — финансы. При этом стоит он немало: электрическая мощность, необходимая для последовательного наращивания цепочки одного только биткоина и проведения транзакций, достигла уже около 100 ТВт⋅часов в год — это около 0,5% от всей потребляемой человечеством энергии, а вес его цепочки приблизился к 400 ГБ.

Токен — это запись, сделанная по принципу блокчейна, но не являющаяся криптовалютой (хотя большинство современных токенов и построены на платформе Ethereum). Токен, как жетон или золотой слиток с пометкой, может применяться подобно акциям компании на бирже для поиска финансирования, в кредитовании, для подтверждения прав в приложениях. Кроме того существуют «Non-fungible token» (NFT — не взаимозаменяемые токены), которые уникальны. Их можно использовать в связке с изображениями или игровыми предметами: вы помечаете NFT-токеном картину или пару кроссовок и продаете ее как уникальную вещь. При этом токен может фиксировать последовательность владельцев и другую информацию.

Токены, связанные с Душой (SBT)

Авторы «Децентрализованного общества» предложили концепцию, согласно которой блокчейн может распространиться на весь интернет, а сама сеть станет главным информационным пространством: в нее уйдет вся бюрократия, финансы, сделки, подтверждение статусов. Для этого они вводят понятия «Soul» (Душа) и «Soulbound tokens» (SBT — токены, связанные с Душой) — такие токены как раз должны относиться к уникальным (NFT).

По задумке авторов, Душа — это аккаунт, хранилище, к которому будут привязаны непередаваемые SBT для фиксации обязанностей, полномочий и связей человека. Предполагается, что SBT будут выпускаться другими людьми и организациями с возможностью отзыва и накапливаться в Душе пользователя. В SBT смогут храниться документы об образовании, трудовой стаж, хэши сочинений или произведений искусства, дипломы, посещение конференций, права на вождение и другие ценные маркеры и «ачивки».

Тут же будут накапливаться просчеты и нарушения: невыполненные контракты, невыплаченные кредиты. Это открывает возможность, например, для беззалогового кредитования или сотрудничества, основанного только на доверии и репутации, или помогает авторам контента связывать его со своей личностью.

В основе идеи — максимальная прозрачность и публичность SBT и полная децентрализованность системы: точно так же утратил контроль над своим детищем создатель Биткоина, и теперь он принадлежит всем. При этом авторы допускают использование в будущем приватных токенов и «множественных Душ», хотя пользователю, накопившему репутацию, невыгодно отказываться от нее ради «переезда».

Децентрализованные автономные организации (DAO)

Еще один важный результат применения блокчейна, который возникает при переходе к децентрализованному обществу, — децентрализованные автономные организации, или DAO. Это онлайн-группы, принадлежащие только членам этих групп, они могут существовать одновременно в виртуальной среде и в реальности.

Управление таким сообществом завязано на консенсус участников: каждый пользователь и оператор здесь вынужден следовать одному и тому же набору жестко запрограммированных правил, известных как протоколы консенсуса — они обеспечивают координацию пользователей и безопасность сети. То есть один человек или централизованная организация не сможет «захватить» DAO и поменять его правила. Никто в одиночку не контролирует такое сообщество, при этом каждый может доверять каждому.

Децентрализованное финансирование (DeFi)

Еще один популярный продукт, на который делают ставку евангелисты DeSoc, — это инструменты децентрализованного финансирования (DeFi) — перевода денег или стоимости активов между счетами. Благодаря таким инструментам пользователи могут безопасно и открыто кредитовать друг друга, токенизировать свои активы, инвестировать, торговать криптоактивами и сотрудничать в самых разных вариантах.

Такой подход порождает новые бизнес-модели и экономики. Скажем, реклама может отойти от модели продажи рекламодателям данных пользователей, а вместо этого присуждать пользователю токен за просмотр рекламы — такой тип приложений создается на базе браузера Brave и их токена Basic Attention (BAT).

Главная цель Web3

Главная проблема системы Web 2.0 — централизованность: поток данных пользователей проходит через руки небольшого количества корпораций и свободно используется ими для получения выгод. И Web 2.0 пока еще довлеет над Web3, ведь новые проекты зависят от сложившейся инфраструктуры интернета и во многом воспроизводят централизованные структуры вместе с их нормами и ограничениями.

Но Бутерин, Вейл и Орхавен описывают возможность «чистого» Web3, распространенного на всю социальную жизнь, который может вернуть управление репутацией и данными человека в его собственные руки и укрепить институт репутации как таковой. Авторы ожидают, что DeSoc усилит роль доверия и самоорганизации людей вместо нынешнего социального дистанцирования:

«Мы называем эту богатую плюралистическую экосистему "Децентрализованным обществом" — совместно определяемой социальностью, где Души и сообщества объединяются снизу вверх, чтобы совместно создавать множественные сетевые товары и сведения в различных масштабах. Ключи к этой социальности — разделяемые права собственности и улучшенные механизмы управления, которые поощряют доверие и сотрудничество, защищая сети от захвата, эксплуатации и доминирования».

Критика концепции

Концепция децентрализованного общества, построенного на блокчейне, сталкивается с критикой с самых разных сторон: от простого сравнения идеи с локальным «модным трендом» до взвешенной аргументации с точки зрения энергетики или психологии.

Первое весомое препятствие на пути DeSoc — энергетические затраты на обслуживание децентрализованных систем. Уже сейчас Ethereum приближается к своим максимальным мощностям, а биткоин потребляет больше энергии, чем некоторые небольшие, но развитые страны вроде Швейцарии. Если в блокчейн будет записываться каждый жест, каждый выброс информации в интернет, то расходы могут возрасти многократно, и на фоне кризиса полупроводников и энергоносителей это может станет настоящей проблемой.

Второй порог — доверие масс. Переход к Web3 может произойти, когда «децентрализованные» приложения и методы станут дешевле и удобнее привычных и получат доверие. Обмен информацией на базе блокчейна может со временем заменить SWIFT и электронные подписи, но не потому, что блокчейн «в тренде», а потому что он смог стать практичнее и безопасней. Но такие системы за пределами профессиональной среды сложны и непонятны большинству пользователей и пока обходятся дороже, чем классические.

Остается наблюдать за эволюцией финансовых и социальных отношений в сети. Но не только: каждый может присоединиться к блокчейн-технологии, поддерживать систему зарождающихся децентрализованных обществ, участвовать в децентрализованном финансировании и накапливать в своей Душе репутацию в виде NFT-токенов — к чему и призывают авторы статьи.

https://republic.ru/posts/104013   

Соцрейтинг привязывают к банковским счетам в 40 странах

Кто определяет рейтинг коррумпированные структуры власти? А ИХ как нам рейтинговать? И что делать?                                 Для чиновников бы такую систему придумать - Всех! Это рейтинг лояльности к этой власти?! Все ближе и ближе такой ненавистный цифровой " рай". Без акцепта все планы, замыслы и действия, направленные против людей! Принимаю только то, что во благо! Освободиться можно будет только в одном случае отказавшись от всех ,, благ ,. цивилизации, по другому ни как. До тех пор пока мы пользуемся их благами, они будут диктовать свои правила.

Всем благоразумия, силы Воли и Духа, света в Душе!

https://www.youtube.com/watch?v=ciEzldk8nOo

    Власть роботов
      Как подготовиться к неизбежному

Мартин Форд

Тридцатого ноября 2020 года лондонская компания DeepMind, специализирующаяся в области искусственного интеллекта, – она принадлежит холдингу Alphabet, в который входит Google, – объявила об ошеломляющем, возможно эпохальном, прорыве. Речь шла об инновации в области вычислительной биологии, которая способна полностью преобразить сферу естественных наук и медицины. Компании удалось с помощью глубокой нейронной сети предсказать конечную структуру синтезируемой в живой клетке молекулы белка, исходя из генетического кода….:

Издательство «Альпина нон фикшн» выпустило книгу Мартина Форда «Власть роботов. Как подготовиться к неизбежному». Мартин Форд — футурист, автор бестселлера «Роботы наступают», признанного Financial Times книгой года в разделе деловой литературы, а также книг «Архитекторы интеллекта» и «Свет в конце туннеля».

Форд — популярный лектор и ведущий эксперт по искусственному интеллекту — очерчивает свое представление о будущем ИИ. С одной стороны, эта технология видится ему как мощный общедоступный ресурс, который способен преобразить практически все области экономики, общественной жизни и культуры. С другой — ИИ несет с собой реальные опасности как для отдельных людей, так и для общества в целом. Такую технологию нельзя принимать слепо и бездумно, и эта книга должна помочь человечеству подготовиться к грядущему — верно понять происходящее, отделить сенсации от реальности и найти оптимальные способы обеспечения процветания каждого из нас и всего общества в целом.

С любезного разрешения издательства публикуем отрывок из главы о том, как Китай превратился в полицейское государство, как по его следам последовали другие страны, включая США, и какие плюсы можно увидеть в происходящем.

https://www.litres.ru/martin-ford/vlast-robotov-kak-podgotovitsya-k-neizbezhnomu/chitat-onlayn/

Tехнологии слежения на основе ИИ

Повсеместное слежение в Китае, которое с западной точки зрения есть не что иное, как откровенное подавление личности, не обязательно воспринимается отрицательно большинством китайцев. Многие искренне одобряют систему выявления нарушителей правил перехода улиц, потому что на опасных в прошлом перекрестках стало больше порядка. У людей также усилилось чувство защищенности от преступлений, стали меньше бояться за маленьких детей. Никто не хочет, чтобы китайская система появилась в США, но в тех пределах, в которых технологии слежения на основе ИИ помогают снизить уровень преступности и создать более безопасную среду, нам следует серьезно задуматься о компромиссе.

Американский частный сектор способен создать антиутопию вездесущего наблюдения — похлеще, чем все замышляемое в Китае, — без какого бы то ни было контроля властей

Превращение Китая в полицейское государство

Нигде синергия авторитарной системы власти Китая и коммерческой экосферы искусственного интеллекта не проявляется очевиднее, чем в растущем кластере стартапов, занимающихся технологией распознавания лиц. В начале 2020 года четыре из них — SenseTime, CloudWalk, Megvii и Yitu — достигли статуса «единорогов», то есть компаний с рыночной стоимостью более $1 млрд. Пока аналитики спорят, приблизился ли Китай к паритету с Соединенными Штатами в развитии технологии искусственного интеллекта, не приходится сомневаться, что в сфере алгоритмов глубокого обучения, используемых для анализа и распознавания лиц и других особенностей людей, китайские компании являются абсолютными лидерами. Как и в других областях применения искусственного интеллекта в Китае, важнейшей движущей силой этого процесса является доступ к огромному массиву данных, на которых можно обучать машинные алгоритмы. По оценкам, в 2020 году в Китае насчитывалось 300 млн камер слежения. Таким образом, с точки зрения доступности цифровых фотографий лиц во всех мыслимых ситуациях и под любыми углами Китай с большим отрывом является мировым лидером.

Бурное развитие стартапов, занимающихся распознаванием лиц, подпитывается безграничным спросом на технологии слежения на всех уровнях авторитарной власти в Китае. Среди самых заинтересованных покупателей этой технологии — полиция, совершенствующая свои сети слежки с учетом особенностей регионов. Синьцзян остается испытательным полигоном для китайского полицейского государства, и технологии, которые были здесь опробованы и доведены до совершенства, быстро распространяются на всю страну. Китайская полиция часто сочетает системы распознавания лиц с другими технологиями, в частности со сканерами мобильных телефонов, которые фиксируют уникальный идентификационный код каждого телефона, оказавшегося поблизости, а также с устройствами считывания автомобильных номеров и отпечатков пальцев. Это оруэлловское единство со временем становится все более тесным. Например, алгоритмы могут связывать идентификационные коды смартфонов с лицами, создавая всеобъемлющую систему идентификации и слежения за людьми. Подобные системы устанавливаются вокруг зданий в местах повышенной криминогенности. Доступ во многие жилые комплексы также осуществляется системой распознавания лиц, а не с помощью ключ-карты или других, менее интрузивных методов. Это позволяет управляющим зданиями и местным полицейским следить за жителями и гостями комплексов, а также предотвращает незаконную сдачу квартир в аренду.

Камеры слежения очень плотно размещены в местах, которые часто посещают приезжие или где велика вероятность скопления людей: на железнодорожных станциях, стадионах, возле достопримечательностей и площадок для проведения массовых мероприятий. Широкий резонанс вызвал ряд случаев ареста людей на концертах и фестивалях с участием до 60 000 зрителей исключительно на основании совпадений, выявленных системой распознавания лиц. Полицейские могут использовать экспериментальные очки для распознавания лиц, способные идентифицировать человека, если он остается неподвижным в течение нескольких секунд и находится в региональной базе данных. Подобное выглядит как сцены из фильмов-антиутопий. Другие системы ИИ могут распознавать людей по одежде или даже по уникальным особенностям их походки.

Одним из самых известных примеров ⁠использования этой технологии является город Сянъян, где ⁠на оживленных перекрестках действует система выявления пешеходов-нарушителей. Она ⁠фотографирует тех, кто переходит улицу не по правилам, и демонстрирует их ⁠на большом экране. Предполагается, что это вызовет публичное осуждение нарушителей. В других городах, включая Шанхай, аналогичные системы выписывают штрафы. Безусловно, не все случаи использования технологии распознавания лиц в Китае направлены на слежку. Эта страна является лидером в области сканирования лиц с целью авторизации платежей в розничных магазинах, покупки железнодорожных билетов и регистрации на авиарейсы. Однако любые данные, генерируемые в ходе рутинного применения этих технологий, почти наверняка доступны полиции и другим силовым ведомствам.

Если в одних случаях навязчивую ⁠слежку в Китае можно ⁠оправдать, хотя бы отчасти, стремлением защитить общество ⁠от преступников, то в других случаях она выходит за все разумные границы — на Западе такое было бы немыслимо. Например, некоторые отделения полиции сделали запрос на технологию, обученную распознавать не лица людей, а расовые признаки уйгуров и других «проблемных народностей». Китайские стартапы в области распознавания лиц быстро удовлетворили этот спрос. В статье Пола Мозера, опубликованной в The New York Times в апреле 2019 года, приводится скриншот онлайнового рекламного материала CloudWalk, где потенциальным покупателям обещают следующее:

«Если численность проблемной группы на определенной территории увеличится (например, если прежде здесь жил один уйгур, а в течение 20 дней их стало шестеро), система немедленно разошлет уведомления, что позволит сотрудникам правоохранительных органов отреагировать, опросить людей и урегулировать ситуацию, а также выработать план действий в чрезвычайных ситуациях».

После демонстрации фотографий с примерами спокойно ведущих себя уйгуров и сцен массовых беспорядков на сайте CloudWalk под заголовком «Наблюдение на местном уровне и предотвращение правонарушений представителей проблемных народностей» объясняется, что «система собирает изображения лиц этих людей, а платформа больших данных Fire Eye идентифицирует их, фиксирует время входа и выхода, подсчитывает количество и т. п. и отсылает в полицию предупреждения, помогая ей выполнить задачу контроля проблемных народностей».

Даже бренд созданного CloudWalk продукта «платформа больших данных Fire Eye» кажется заимствованным из очень страшного научно-фантастического романа. Полное отсутствие попыток как-то замаскировать в описании предназначение этой технологии даже на общедоступном корпоративном сайте — яркий показатель того, что китайские власти проводят в отношении уйгуров политику подавления. Это также свидетельство того, что

искусственный интеллект, оказавшийся не в тех руках, может использоваться в самых мрачных целях. Подобная опасность не ограничивается Китаем.

Практически любую современную технологию распознавания лиц можно превратить в оружие против определенных групп, если настроить систему на выявление таких признаков, как раса, пол, усы и борода или религиозная одежда.

Движение Китая в сторону все более тотальной слежки за своими гражданами может увенчаться полным выполнением планов по внедрению системы социального рейтинга. Эта программа была представлена в 2014 году как способ вознаграждения «благонадежности» граждан, иными словами, она должна «позволить тем, кто благонадежен, беспрепятственно находиться в любом месте под солнцем и сильно осложнить жизнь дискредитировавшим себя». Система социального рейтинга начинается с показателей, характерных для западных коммерческих систем кредитного или потребительского рейтинга, таких как кредитный скоринг или рейтинги Uber и Airbnb. Однако китайская система идет намного дальше и потенциально вторгается практически во все аспекты повседневной жизни, включая учет нарушений закона и любые нежелательные, с точки зрения властей, поступки. Помимо просрочек по счетам или штрафам, это могут быть чрезмерное увлечение компьютерными играми, крамольные посты в соцсетях, связи с неподходящими людьми, разбрасывание мусора или громкая музыка в общественном транспорте, курение в неположенных местах и даже неправильно рассортированный мусор.

Социальный рейтинг может также учитывать желательное поведение, скажем получение государственной награды или премии за трудовые успехи, благотворительность, заботу о родственниках или помощь соседям. Рейтинг может коснуться даже сугубо личных решений о покупках, например вознаграждать за покупки, которые считаются позитивными, скажем подгузники для младенцев, и наказывать за чрезмерное приобретение спиртного. Обладатели высоких баллов получают такие бонусы, как скидки при расчетах за отопление, сокращенное время ожидания приема в больницах или государственных учреждениях или более благоприятные возможности трудоустройства. Напротив, обладатели низкого социального рейтинга штрафуются: лишаются возможности купить билет на самолет или поезд, не могут записать детей в лучшие школы или забронировать номер в популярном отеле или на хорошем курорте. Когда такая всеобъемлющая система будет полностью внедрена, она станет чрезвычайно навязчивым механизмом контроля, охватывающим практически все взрослое население Китая.

Human Rights Watch обоснованно называет такую систему «ужасающей».

Все это конечная цель, нынешнее состояние далеко от подобной целостности. На практике система социального рейтинга раздроблена на экспериментальные программы городов и местных властей наряду со множеством коммерческих рейтинговых систем, которыми управляют такие корпорации, как Alibaba и Tencent, поддерживающие платформы мобильных платежей. Часть этих программ, в частности в городе Жунчэн, получили широкую поддержку общественности, поскольку являются относительно прозрачными, наказывают только явно криминальные поступки и имеют неоспоримые положительные результаты. Например, водители в Жунчэне стали уступать пешеходам дорогу на перекрестках после того, как стало ясно, что нарушение негативно скажется на их социальном рейтинге. Действительно, китайские граждане получили миллионы отказов в продаже билетов на самолет или скоростной поезд, но в основном потому, что их имена оказались в давно ведущихся черных списках, а не из-за социального балла, сгенерированного алгоритмом. В самый важный черный список, который ведет Верховный народный суд, попадают те, кто не погасил долги, судебные или иные штрафы. Впрочем, почти для всех государственных служб в Китае постоянной проблемой остаются коррупция и непрозрачность. Со временем эти системы неизбежно станут намного более интегрированными, и их бесцеремонность будет усилена распознаванием лиц и другими технологиями на основе ИИ, используемыми в целях слежки и наблюдения за гражданами. В конечном итоге можно ожидать появления совершенно оруэлловской системы всестороннего социального контроля.

Ничто из описанного не ограничивается самим Китаем. Экспорт технологий слежки играет ключевую роль в общей стратегии китайских властей по преобразованию производства в стране и переходу от малодоходных товаров массового потребления к технологическим продуктам более высокой ценности. Китаю принадлежит почти половина глобального рынка технологий распознавания лиц. Во многом это заслуга одной китайской фирмы, телекоммуникационной компании Huawei. По данным Фонда Карнеги за международный мир на сентябрь 2019 года, Huawei продала технологии слежения, в том числе системы распознавания лиц, по меньшей мере 50 странам и 230 городам — намного больше любой другой компании. Для сравнения: ее самые близкие американские конкуренты — IBM, Palantir и Cisco — установили системы менее чем в десятке стран каждая. Такие авторитарные государства, как Саудовская Аравия и Объединенные Арабские Эмираты, особенно заинтересованы в китайской технологии, поскольку устанавливают системы слежки на всей своей территории. Там распознавание лиц зачастую уже элемент повседневности. Я убедился в этом лично в ходе поездки в Абу-Даби в начале 2019 года, где услышал широко освещаемую историю о богатой женщине, потерявшей дорогое кольцо. Она сообщила о потере властям, те немедленно применили программу распознавания лиц к снимкам, сделанным в ходе слежения за соответствующей территорией, и всего через несколько часов после случившегося постучали в дверь человека, подобравшего кольцо.

Продажи оборудования Huawei для слежения часто финансируются кредитами, обеспеченными китайскими властями. Такие страны, как Кения, Лаос, Монголия, Уганда, Узбекистан и Зимбабве, приняли участие в этой программе. В некоторых случаях она осуществлялась в рамках глобальной инициативы Пекина «Один пояс — один путь» по финансированию инфраструктурного строительства почти в 70 странах. Все более важным центром активности становится Африка, где, по некоторым данным, китайские системы распознавания лиц уже приносят эффект. Например, Huawei утверждает, что внедрение ее технологии в столице Кении Найроби и ее пригородах привело в 2015 году к снижению уровня преступности на 46%.

Вопрос последствий внедрения созданных китайскими компаниями технологий для безопасности и прав человека уже вызвал серьезные разногласия между Китаем и Соединенными Штатами. В мае 2019 года на Huawei были наложены торговые ограничения, которые вылились в запрет продавать этой компании американские технологии, в частности программное обеспечение и компьютерные процессоры. Это стало следствием сочетания позиции, занятой США в разгорающейся общей торговой войне, и давно высказываемых опасений, что технология инфраструктуры мобильной связи 5G, продаваемая этой компанией, теоретически может дать китайским властям доступ к коммуникациям в Соединенных Штатах через установленное оборудование. США добились неоднозначных результатов в попытках оказать давление на своих союзников и заставить их также запретить использование оборудования Huawei. Кроме того, компанию обвинили в нарушении торгового эмбарго США в отношении Ирана и в получении неприемлемой поддержки китайского государства.

Пять месяцев спустя Соединенные Штаты включили в черный список еще несколько ведущих китайских стартапов в области искусственного интеллекта, а также 20 управлений полиции и силовых ведомств Китая под предлогом нарушения прав человека в результате применения ими технологии против уйгуров и других этнических меньшинств. Запрет продаж был распространен и на три из четырех китайских «единорогов», занимающихся распознаванием лиц, на iFlytek, специализирующуюся на системах распознавания речи, и две компании, выпускающие видеокамеры и другое оборудование для слежения.

По окончании пандемии коронавируса противоречия между Соединенными Штатами и Китаем значительно усилились. Широко распространилось понимание того, что чрезмерная зависимость от китайского производства может угрожать доступу США к принципиально важному стратегическому сырью, а также медицинским расходникам и лекарствам. Еще до кризиса было ясно, что экономическая синергия и взаимозависимость этих двух стран — явление, которое историк Ниал Фергюсон назвал в 2006 году «Кимерикой», — постепенно разрушается. Если противоречия обострятся и отдаление двух стран продолжится, определяющими факторами этого процесса неизбежно станут конфликт и конкуренция в сфере создания и использования искусственного интеллекта. По мере углубления понимания того, что ИИ является системной и стратегической технологией, перспектива полномасштабной гонки Китая и США приобретает характер реальной опасности.

Запад начинает споры вокруг проблемы распознавания лиц

В феврале 2019 года полиция штата Индиана расследовала преступление, совершенное во время драки двух мужчин в парке. Один из подравшихся выхватил пистолет, выстрелил другому в живот и скрылся. Поскольку прохожий заснял случившееся на мобильный телефон, детективы полиции штата решили загрузить фотографию преступника в новую систему распознавания лиц, с которой экспериментировали. Система сразу же нашла совпадение — стрелок обнаружился на видео, выложенном в соцсети вместе с текстом, где упоминалось его имя. В общем, дело было раскрыто за 20 минут, несмотря на то что подозреваемый прежде не подвергался аресту и даже не имел водительских прав.

Сотрудники полиции подключались к системе распознавания лиц через мобильное приложение, предоставленное таинственной компанией Clearview AI. База фотографий, доступных приложению Clearview, была огромной. Вместо использования официальных фотографий из документов, например паспортов, водительских прав или полицейских ориентировок, компания просто прочесала интернет и проанализировала выложенные в свободный доступ фотографии из разных источников, в том числе из Facebook*, YouTube и Twitter. Если система Clearview находила совпадение, приложение показывало ссылки на интернет- страницы или профили в социальных сетях, где было выложено соответствующее фото, что во многих случаях позволяло провести идентификацию мгновенно. Массив данных, собранных Clearview, включал около 3 млрд изображений — в семь с лишним раз больше официальной базы фотографий граждан США, принадлежащей ФБР. Это поразительно, особенно с учетом того, что Clearview AI — крохотная компания, не идущая ни в какое сравнение с китайскими «единорогами», занимающимися распознаванием лиц, и до января 2020 года о ней никто не слышал, кроме правоохранительных органов.

В том месяце The New York Times опубликовала большое журналистское расследование Кашмира Хилла, репортера, пишущего о технологиях, который изучил предысторию компании и впервые пролил свет на ее деятельность. Как выяснилось, компанию Clearview, указавшую на странице в LinkedIn несуществующий нью-йоркский адрес, основал в 2016 году австралийский серийный предприниматель Хоан Тон-Тат. Наряду с другими инвестициями стартап получил $200 000 от венчурного капиталиста из Кремниевой долины Питера Тиля, сооснователя Palantir — компании, занимающейся анализом данных и слежением и имеющей прочные связи с органами безопасности и полицией.

Clearview утверждала, что предоставляет доступ к своей технологии только правоохранительным органам и государственным службам безопасности. Теоретически, однако, ничто не мешало компании со временем сделать свою систему доступной для широкой публики, что грозит почти полной утратой анонимности. Если бы эта технология стала общедоступной, любой человек, пользующийся приложением Clearview, мог бы мгновенно идентифицировать практически кого угодно и когда угодно. Зная имя человека, ничего не стоило бы найти его домашний адрес, место работы и любую другую конфиденциальную информацию. Неизбежным результатом стал бы всплеск преследований, шантажа и публичного шельмования практически за любую неосторожность, а также бесчисленные другие злоупотребления. Иными словами, американский частный сектор вполне способен создать антиутопию вездесущего наблюдения — в потенциале похлеще, чем все замышляемое в Китае, — без какого бы то ни было участия или контроля властей. Некоторых спонсоров Clearview AI такая опасность, похоже, совершенно не пугает.

«Я пришел к выводу, что из-за постоянного увеличения объема информации никакой частной жизни скоро не останется, — сказал The New York Times один из первых инвесторов компании. Законы должны устанавливать, что легально, но запретить технологию невозможно. Разумеется, результатом может стать антиутопическое будущее, но этого не запретить».

Статья в The New York Times вызвала волну споров вокруг компании, а также привлекла внимание хакеров, которым удалось взломать серверы Clearview и получить полный список ее платных клиентов, а также потенциальных заказчиков, пользовавшихся 30-дневной бесплатной пробной версией приложения. Оказалось, в число пользователей Clearview входили важнейшие агентства, в том числе ФБР, Интерпол, Служба иммиграционного и таможенного контроля и офис прокурора Южного района Нью- Йорка, а также сотни управлений полиции по всему миру. Несмотря на заявления компании, что она работает только с официальными правоохранительными органами, приложение использовалось частными компаниями, включая Best Buy, Macy’s, Rite Aid и Walmart. Более того, есть подозрение, что работники предприятий частного сектора используют приложение без санкции работодателей. Расследование BuzzFeed показало, что пять аккаунтов, связанных с Home Depot, выполнили почти 100 поисковых операций с помощью этого приложения, хотя руководство Home Depot заявило, что ничего об этом не знает. Иначе говоря, доступ к технологии уже просачивается в более широкое публичное пространство.

Обнародование этих фактов вызвало немедленную реакцию. В течение нескольких недель Twitter, Facebook* и Google направили компании требования прекратить противоправную деятельность — остановить сбор фотографий на их серверах и немедленно удалить изображения, уже попавшие в базу данных. В конце февраля Apple заблокировала приложение Clearview для iPhone, поскольку компания нарушила пользовательское соглашение с Apple, обойдя App Store. Вскоре после этого Clearview объявила, что аннулирует все лицензионные соглашения с частными компаниями и ограничится взаимодействием с правоохранительными ведомствами, но эта мера многим показалась неэффективной. В мае Американский союз защиты гражданских свобод (American Civil Liberties Union, ACLU) подал иск против Clearview, утверждая, что ее технология представляет собой «кошмарный сценарий», который «покончит с частной жизнью, какой мы ее знаем, если эту компанию не остановить». Clearview продолжает работать и утверждает, что она уверена в своем праве прочесывать интернет в поисках фотографий и готова в суде бороться с соцсетями за этот доступ.

Случай с Clearview AI — важное предостережение в отношении не только распознавания лиц, но и искусственного интеллекта в целом. Используя подобную технологию с уникальными возможностями, крохотная кучка специалистов — а то и один человек — способна дестабилизировать социальную или экономическую жизнь практически в невообразимых масштабах, и такие риски создаются не только технологиями слежения на основе ИИ.

Учитывая масштабы возмущения действиями Clearview, ее амбиции, скорее всего, удастся обуздать. В целом, однако, распространение систем распознавания лиц в западных странах стремительно растет. Демократические общества должны как можно скорее выработать компромисс с учетом ценности и решить этические вопросы, сопутствующие использованию этой технологии. В Лондоне — сегодня он рекордсмен по наблюдению за гражданами среди городов западного мира, имеющий больше камер видеонаблюдения на душу населения, чем Пекин, — системы распознавания лиц устанавливаются с начала 2020 года. По утверждению лондонской полиции, они предназначены исключительно для обнаружения людей из «специального» списка, которые разыскиваются за серьезные преступления. Однако систему также можно использовать для поиска пропавших детей и взрослых.

В Соединенных Штатах около четверти управлений полиции имеют доступ к технологии распознавания лиц. Системы распознавания лиц также широко применяются в аэропортах, где ищут известных террористов или преступников, и все чаще используются для установления личности в ходе проверки безопасности. В большинстве случаев, например в лондонской системе, эта технология идентифицирует лишь тех, кто входит в специальные списки разыскиваемых лиц. Однако мы маленькими шажками подходим все ближе и ближе к тотальному проникновению в частную жизнь, ознаменованному приложением Clearview, когда идентифицировать можно практически любого. ФБР имеет базу, содержащую, согласно анализу Центра приватности и технологий Школы права Джорджтаунского университета, снимки около 117 млн человек — примерно половины взрослого населения Соединенных Штатов. Большинство из них — это фотографии на водительские права, выдаваемые властями штатов, то есть в базу включены все жители, которые получали удостоверения личности, а не только те, кого разыскивают за преступления. Разумеется, согласие людей на включение их фотографий в базу данных не требуется, а добиться исключения из системы невозможно.

Хотя угроза частной жизни совершенно реальна, важно понимать, что при правильном и этичном использовании системы распознавания лиц однозначно полезны. Эта технология позволила задержать множество опасных преступников. В ситуации с Clearview ущерб неприкосновенности частной жизни, очевидно, перевешивает пользу, тем не менее благодаря этому приложению были опознаны опасные уголовники. Особенно эффективным оно оказалось в идентификации насильников и распространителей детской порнографии. Системы распознавания лиц, действующие в общественных местах, также могут быть очень полезными для снижения уровня преступности. Лондонская полиция справедливо отмечает:

«Мы все хотим жить и работать в безопасном городе; общественность может не сомневаться в том, что мы будем использовать общедоступную технологию для борьбы с преступностью».

Безопасная среда особенно важна для детей. Джонатан Хайдт, писатель, профессор Нью-Йоркского университета, настойчиво выступает за воспитание «без гиперопеки». Он утверждает, что мы, жители Соединенных Штатов, создали культуру гиперопеки детей, которая лишает их возможности неконтролируемого взаимодействия с миром, позволяющего превратиться в уверенно стоящих на ногах взрослых. Большинству американских родителей сама мысль о том, чтобы отпустить ребенка одного в школу или разрешить ему играть в соседнем парке без присмотра, кажется чудовищной, а в некоторых местах это просто незаконно. Я подозреваю, что маленьких китайцев не слишком заботит всевидящее око оруэлловского государства, зато они знают, что могут самостоятельно пойти в школу и поиграть в парке. Вот будет ирония, если окажется, что у китайской системы слежки есть положительная сторона — хотя бы для самых маленьких граждан страны. Со временем это, возможно, позволит воспитать более предприимчивое и склонное к новаторству поколение. Никто не хочет, чтобы китайская система появилась в Соединенных Штатах, но в тех пределах, в которых технологии слежения на основе ИИ помогают снизить уровень преступности и создать более безопасную среду, нам следует серьезно задуматься о компромиссе.

Итак, технология распознавания лиц способна принести реальную пользу обществу. Принципиально, однако, чтобы она применялась справедливо и одинаково затрагивала все группы населения. В этом и коренится основная проблема. Ряд исследований доказали, что системы распознавания лиц стабильно демонстрируют определенную предвзятость, как расовую, так и гендерную. Разумеется, это далеко от китайских алгоритмов, открыто нацеленных на выявление уйгуров, и связано с преобладанием лиц белых мужчин в наборах данных, на которых обучаются алгоритмы. В одной популярной выборке обучающих данных 83% лиц были белыми и 77% — мужскими. Типичным проявлением этой проблемы является более высокая вероятность «ложноположительного» результата в отношении небелых и женских лиц. Иными словами, в случаях женщин и цветных шансы на ошибочное совпадение возрастают.

В 2018 году Американский союз защиты гражданских свобод (ACLU) сравнил фотографии всех 538 членов Конгресса США с большим набором снимков из архива арестованных. ACLU воспользовался системой Rekognition, доступ к которой можно получить через Amazon Web Service. Она становится все более популярной у отделений полиции благодаря очень низкой цене пользования. ACLU смог провести свой эксперимент всего за $12. Система отметила 28 конгрессменов как тех, кто подвергался аресту и включен в базу фотографий преступников. С учетом того, что человек, подвергавшийся аресту, не может быть избран ни в палату представителей, ни в сенат, все эти результаты были ложноположительными. Больше всего исследователей встревожило даже не количество ошибок как таковое, а выраженный перекос в сторону небелых членов конгресса. Цветные составляют около 20% конгрессменов, но на них пришлось 39% ложных совпадений. Amazon в ответ заявила, что ACLU неправильно настроил систему, поскольку использовал для выявления совпадений доверительный уровень по умолчанию 85%, а не более подходящий — 95%. Однако ACLU отметил, что Amazon не дает инструкций о том, как правильно настроить систему, и что многие управления полиции почти наверняка пользуются настройками по умолчанию.

Намного более масштабное исследование провел в 2019 году Национальный институт стандартов и технологий, входящий в Министерство торговли США. Он оценил 189 систем распознавания лиц, принадлежащих 99 компаниям. Оказалось, что почти во всех случаях уровень ложноположительных результатов был самым низким для европейских лиц и значительно увеличивался для африканских и азиатских. Ожидаемым исключением стали алгоритмы, созданные китайскими компаниями, которые давали самые точные результаты в отношении выходцев из Восточной Азии. Кроме того, системы лучше работали с мужскими лицами по сравнению с женскими, но здесь расхождение было меньше, чем в случае представителей разных рас.

Снижение точности идентификации небелых рас было существенным. Например, для чернокожего вероятность ложноположительной идентификации в 100 с лишним раз выше, чем для белого. Иными словами, афроамериканец в 100 раз сильнее белого рискует быть ошибочно принятым системой за потенциального правонарушителя и, следовательно, привлечь к своей персоне повышенное внимание полиции. Собственно, это цифровая версия сценария из жизни, прекрасно знакомого афроамериканцам, часто сталкивающимся с навязчивым вниманием охранников в универмагах и подозрительностью кассиров.

Казалось бы, эти проблемы можно решить, просто включив в обучающие выборки больше фотографий людей разного этнического происхождения и пола. Однако компаниям, создающим системы распознавания, зачастую трудно найти высококачественные изображения небелых лиц, полученные этически корректно и с согласия людей, иными словами, не надерганные из соцсетей, как это сделала Clearview. Определенные решения этой проблемы сами вызывают вопросы, и в этой области компании, готовые преступить этические нормы, могут получить преимущество. В 2018 году китайская компания-«единорог» CloudWalk заключила с властями Зимбабве сомнительный контракт на создание общенациональной системы распознавания лиц. Соглашение предусматривало предоставление CloudWalk доступа к фотографиям граждан Зимбабве и разрешение обучать на них свои алгоритмы. Систему теоретически можно затем использовать в любой стране мира, естественно, без уведомления граждан Зимбабве.

Подобные вопросы, как и ситуация с Clearview, однозначно свидетельствуют, что технологию распознавания лиц нельзя оставлять в руках компаний нерегулируемого частного сектора. Правовое регулирование и надзор имеют принципиальное значение. Если бы The New York Times не привлекла всеобщее внимание к Clearview, ее технология применялась бы в обществе совершенно бесконтрольно задолго до того, как люди осознали бы угрозу своим личным данным, которую она несет. Как минимум нам нужны четкие нормы, обеспечивающие непредвзятость используемых алгоритмов, а также гарантии против применения систем слежения, угрожающего неприкосновенности частной жизни.

Пока нет общих стандартов, в некоторых местах, например в Сан-Франциско, было решено полностью запретить использование технологии распознавания лиц полицией и местными властями. Однако запрет не распространяется на частный сектор. Как и в Китае, применение системы распознавания лиц для допуска в крупные жилые комплексы становится нормой. Некоторые жители таких комплексов уже подают судебные иски, утверждая, что это является вторжением в их частную жизнь. Розничные магазины также используют эту технологию с незначительными ограничениями. Очевидно, нам необходимо регулирование на государственном уровне, которое определит базовый комплекс правил, обязательных для систем распознавания лиц, как публичных, так и частных. Отношение к приватности, слежке и важности общественной безопасности сильно варьирует, и, скорее всего, отдельные страны, регионы и города придут к разным компромиссам в отношении систем распознавания лиц и других технологий слежения на основе ИИ. В демократических обществах к этому должен вести прозрачный процесс, учитывающий мнение общественности, а технология должна подчиняться комплексу базовых принципов, защищающих права всех сопричастных.

https://republic.ru/posts/105173

 Экспонента. Как быстрое развитие технологий меняет бизнес, политику и общество

Азим Ажар

Тема этой книги – стремительная трансформация общества в начале XXI столетия. Эта книга о том, что новые технологии развиваются все быстрее, и о том, как это влияет на политику, экономику и общество в целом….: https://www.litres.ru/azeem-azhar/eksponenta-kak-bystroe-razvitie-tehnologiy-menyaet-biznes-poli/chitat-onlayn/

28 февраля 2020

Топ-10 прорывных технологий 2020 года

Эксперты портала Technology Review составили ежегодный список прорывных технологий 2020 года, которые направлены на решение важных проблем. Эксперты поясняют, что при составлении списка они старались избежать включения в список гаджетов, а сосредоточились на технологиях, которые действительно способны изменить жизнь вокруг. Ниже мы расскажем об этих технологиях подробнее.

1. Защищенный от хакеров интернет

Команда ученых под руководством Стефани Винер, из Delft University of Technology, создают сеть, объединяющую четыре города в Нидерландах с помощью квантовых технологий. Сообщения, посылаемые по этой сети, будут защищены от взлома хакерами. За последние несколько лет ученые научились передавать фотоны по оптоволоконному кабелю так, что информация полностью защищена.

Команда ученых в Китае использовала аналогичную технологию для строительства 2 000 – километровой сети между Пекином и Шанхаем. Однако частично она зависит от традиционных компонентов, которые создают риск взлома.

2. Персонализированные медицинские услуги

Зачастую бывает так, что ребенок болеет очень редким заболеванием, для которого нигде в мире нет лечения, потому что оно слишком редкое, чтобы вкладывать деньги в его лечение.

Однако ситуация меняется. Ученые разрабатывают такие лекарства, которые можно изменять в зависимости от генов человека. Если возникает заболевание возникло из-за генетических мутаций, то появляется шанс его излечить.

3. Электронные деньги

Разговоры о создании электронной валюты уже давно ходили – так, Facebook заявил о создании электронных денег Libra. Кроме того, Китай также заявил о намерении создать собственную электронную валюту. Считается, что именно Китай может стать первой крупной державой, которая действительно создаст электронный аналог денег.

4. Препараты против старения

Первые препараты против старения уже проходят тестирование. Эти препараты не продлят жизнь. Они направлены на то, чтобы предотвратить возникновение различных заболеваний путем замедления естественного процесса старения. Препараты называются сенолитиками. Они работают таким образом, что выводят определенные клетки, которые накапливаются в организме по мере старения.

5. Молекулы, которые обнаружены искусственным интеллектом

Ученые давно задавались вопросом о молекулах, которые могут потенциально превращаться в лекарственные препараты. Новые инструменты машинного вычисления могут анализировать масштабные базы данных молекул, чтобы определить их свойства и, используя эту информацию, найти новые возможности.

6. Мега-комплексы спутников

Запуск спутников становится более бюджетным, а это означает, что в скором времени будет запущено больше спутников, которые будут способствовать улучшению связи на Земле.

Теперь спутники стали меньше по размеру, что делает их запуск более реальным с финансовой точки зрения. Комплексы небольших спутников помогут даже самому бедному населению планеты получить доступ к интернету, считают эксперты.

7. Квантовое превосходство

Квантовые компьютеры хранят и обрабатывают данные иначе, чем мы привыкли. Теоретически они могут заниматься задачами, которые не под силу даже самым мощным классическим компьютерам, включая расшифровку криптографических кодов или симуляцию поведения определенных молекул. В мире уже есть работающие квантовые компьютеры, однако лишь при определенных условиях они могут продемонстрировать превосходство над классическими компьютерами. В октябре прошлого года компания Google продемонстрировала это превосходство. Однако это была лишь демо-версия, и в настоящий момент перед компанией стоит задача построить компьютер, который решал бы полезные задачи.

8. Миниатюрный искусственный интеллект

Разработчики искусственного интеллекта сталкиваются с проблемой: в попытке выстроить более мощные алгоритмы, они используют все большие объемы данных и вычислительные ресурсы, они также зависят от централизованных облачных сервисов. Это не только приводит к росту вредных выбросов в атмосферу, но также ограничивает скорость и приватность приложений для искусственного интеллекта.

Однако технологические компании и ученые работают над новыми алгоритмами, позволяющими сжимать существующие алгоритмы глубокого обучения без потери их способностей. Тем временем новое поколение специализированных ИИ-чипов позволяют поместить более мощные вычислительные ресурсы в небольшие по размеру устройства , а также обучать искусственный интеллект с использованием меньшего объема энергии.

9. Дифференциальная приватность

В 2020 году перед правительством США стоит серьезная задача: собрать данные о 330 миллионах жителей страны и при этом сохранить приватность их личности. Данные должны храниться в статистических таблицах, которые политики и ученые будут анализировать при написании законов и проведении исследований. По закону, они должны выглядеть таким образом, чтобы не указывать на конкретные личности.

10. Изучение изменения климата

Ряд ученых связывает экстремальные погодные условия, такие как штормы и ураганы, с изменением климата. Раньше ученые были более осторожны в своих выводах относительно того, насколько изменение климата сыграло роль в тех или иных погодных условиях. Однако со временем все чаще эти явления стали связывать с изменением климата, что позволило ученым оперировать более точными статистическими данными и понимать то, как работают природные системы. Помимо этого, понимание процессов, связанных с изменением климата, позволит создавать симуляторы и более точно прогнозировать неблагоприятные климатические явления.

 https://www.vesti.ru/doc.html?id=3243811

22 февраля 2022

Специалисты назвали самые опасные для человечества технологии

Валерий Романов

Землянам следует опасаться искусственного интеллекта, биометрии, квантовых вычислений, синтетической биологии, а также слежки. Эти технологии — в списке тех, которые научные специалисты считают самыми опасными для развития мировой цивилизации. Как эти разработки могут повлиять на человечество в перспективе ближайших десятилетий — в материале «Газеты.Ru».

Издание Gizmodo опросило ученых, задав им один вопрос — какая новая технология способна в скором времени ухудшить жизни миллионов людей, а в перспективе — погубить человеческую цивилизацию. Каждый из специалистов дал свой ответ, аргументируя опасения и описывая последствия.

Искусственный интеллект

Профессор компьютерных наук Брауновского университета Майкл Литтман рассказал, что серьезно опасается развития искусственного интеллекта (ИИ).

«Группа из 17 экспертов выразила мнение, что по мере того, как системы ИИ становятся все более полезными в реальных делах, расширяется и сфера их деятельности. Это приводит к увеличению рисков неправильного использования, чрезмерного использования и явных злоупотреблений», — предупредил ученый.

Одним из самых больших опасений он назвал появление у человечества отношения к ИИ как к технологии, которая сможет быть использована для решения любой проблемы.

«У ИИ появилась будто аура нейтральности и беспристрастности. Из-за этого системы воспринимаются как объективные и полезные, хотя они могут применяться ненадлежащим образом и быть построены на результатах предвзятых данных или даже вопиющей дискриминации», — уточнил Литтман.

По его словам, без прозрачности в построении данных и алгоритмов ИИ люди останутся в неведении относительно того, как принимаются решения, влияющие на их жизни.

Например, алгоритмы ИИ играют роль в принятии решений о распределении донорских органов, вакцин и других элементов здравоохранения — эти подходы имеют буквально ставки на жизнь и смерть, предупредил профессор. Он заключил, что нельзя исключать мнения людей из цепочки принятия решений на основе ИИ, чтобы не навредить человечеству.

Биометрия

Профессор эпидемиологии Гарвардского университета Дэвид Шамуэй Джонс склонен считать, что больше всего людям стоит опасаться биометрии, и в особенности технологии распознавания лиц.

«Наши передвижения больше не будут частными. Кто-то всегда будет иметь возможность знать, где мы находимся и где мы были. Даже если никто не злоупотребит этой информацией, потеря конфиденциальности и анонимности кажется мне достаточно значимой», — отметил специалист.

При этом ученый уверен — избежать злоупотреблений почти наверняка не получится. «Риск неправильного использования этой информации реален. Тот, кто имеет доступ к информации, безусловно, может использовать ее в гнусных целях», — выразил опасения Джонс.

По его словам, спектры заинтересованных широк — от сталкеров и бывших партнеров до авторитарных правительств. С развитием технологий у них даже появится способность предсказывать, что люди будут делать дальше: куда идти, что покупать и с кем видеться, констатировал профессор.

Синтетическая биология

Гендиректора компании по прогнозированию событий и трендов «Институт будущего сегодня» (Future Today Institute) Эми Уэбб больше всего пугают новые технологии в области синтетической биологии.

«У них единственная цель — получить доступ к клеткам, чтобы написать новый биологический код. Синтетическая биология — это область науки, которая применяет инженерию, искусственный интеллект, генетику и химию для переделки организмов с улучшенными способностями и новыми целями», — рассказал она.

Специалист заверила, что ряд новых биологических технологий и методов позволят не только читать и редактировать код ДНК, но и записывать его, то есть программировать живые биологические структуры, как если бы они были крошечными компьютерами.

По ее словам, со временем у людей появятся программы, которые будут устроены как текстовый редактор Word, но для кода ДНК — с таким же простым редактированием. Молекулы ДНК же будут печататься с нуля с использованием аналога 3D-принтера, пояснила Уэбб.

«Что может пойти не так? Синтетическую биологию делает самой опасной новой технологией сами люди. Нам нужно будет бросить вызов нашему образу мысли, задавать трудные вопросы и вести рациональные дискуссии о происхождении жизни, иначе мы упустим возможности и лишь увеличим риски», — посчитала глава компании.

В том числе придется определить, следует ли программировать новые вирусы для борьбы с болезнями, формировать новые требования к генетической конфиденциальности и кто должен «владеть» живыми организмами. По ее словам, главная опасность исходит из того, что такие решения кардинальным образом повлияют на судьбы миллионов людей.

Постоянная слежка на работе

Профессор права Фордхемского университета Зефир Тичаут уверена: постоянное и более продвинутое наблюдение за сотрудниками на рабочих местах и удаленке крайне опасно и со временем испортит жизнь миллионам.

«Это перевернет и без того неравные отношения между работодателем и работником, позволяя работодателям обращаться с работниками как с морскими свинками. Эти объемы информации о действиях создают нездоровую мотивацию и в итоге приведут к цели получить больше сделанной работы за меньшую плату», — добавила она.

Специалист отметила, что некоторые работодатели заинтересованы в технологиях в области азартных игр — иметь возможность зарабатывать как можно больше на слабостях людей. И если в казино речь идет об игроках, но у компаний это будут их собственные работники.

Квантовые вычисления

Профессор права, соучредитель факультета Лаборатории технической политики и Центра информированной общественности Вашингтонского университета Райан Кало рассказал, что больше всего его беспокоят квантовые вычисления.

По его словам, взлом соответствующих систем шифрования — лишь верхушка айсберга. Кало уверен, что другие опасности квантовых вычислений не являются новыми, однако обновленные мощности дадут старым угрозам новую, невиданную ранее силу.

«Я беспокоюсь, что квантовые вычисления помогут следить за всем миром, и в нем каждое правительство и компания — это Шерлок Холмс, разгадывающий все наши секреты на основе информации, которую мы даже не думаем скрывать», — отметил он.

Ученый заключил, что квантовые вычисления ускорят потерю конфиденциальности и автономии каждого человека, и это будет не сравнимо с тем, на что способны текущие суперкомпьютеры.

https://www.gazeta.ru/tech/2022/02/22/14564425.shtml

Метавселенная Марка Цукерберга. 

 Войдем ли мы в новый мир к концу десятилетия или идеи корпорации слишком масштабны?

Инна Тулаева

В июле генеральный директор Facebook Марк Цукерберг поделился со своими сотрудниками амбициозной идеей. По его задумке, в будущем компания должна выходить за пределы текущих проектов по созданию приложений для социальных сетей и оборудования для их поддержки. Цукерберг решил создать масштабный мир прямиком из научной фантастики, известный как метавселенная.

Впервые термин «метавселенная» появился в 1992 году в киберпанк-романе Нила Стивенсона «Лавина». Он означает конвергенцию физической, дополненной и виртуальной реальности в общем онлайн-пространстве. Сейчас концепция метавселенной находится на пике популярности. В июле The New York Times выпустила материал о том, как компании и продукты, включая Fortnite, Roblox и даже Animal Crossing: New Horizons от Epic Games, все чаще содержат элементы, похожие на метавселенную. Генеральный директор Тим Суини уже не первый месяц обсуждает план внедрения виртуальной реальности в физический мир.

Однако планы Цукерберга более максималистские. В своей презентации он согласился с венчурным капиталистом Мэтью Боллом, который выделил в своем эссе ключевые характеристики метавселенной. Она обязана охватывать физический и виртуальный миры и иметь полноценную экономику. Также в метавселенной у пользователей должна быть возможность переносить свои аватары и товары из одного места в другое, независимо от того, кто управляет конкретной частью этого мира. Цукерберг подчеркнул, что ни одна компания не будет иметь власти над метавселенной. По его словам, это будет «воплощенный в физический мир интернет», который децентрализованно регулируется множеством игроков.

Цукерберг отметил, что метавселенную не ⁠стоит представлять исключительно как виртуальную реальность. «Это ⁠явно та часть, в которую мы инвестируем, потому что ⁠VR-технологии обеспечивают наиболее четкую форму присутствия. Но метавселенная — это не ⁠просто виртуальная реальность. Она будет доступна на всех ⁠наших платформах: VR и AR, ⁠ПК, а также в мобильных устройствах и игровых консолях», — ⁠поделился Цукерберг в интервью The Verge, отметив, что мечтал об осуществлении этого проекта еще со средней школы.

В планах у Facebook создать метавселенную к концу этого десятилетия. По мнению Цукерберга, общество уже готово к переходу цифровой реальности в физический мир. Люди стали гораздо более активно взаимодействовать с интернетом, например, многие просматривают на смартфоне социальные сети первым делом после пробуждения. Сам генеральный директор Facebook, по его словам, поступает так же. Поэтому он решил внедрить интернет в распорядок дня обычного человека более естественным образом.

«У нас есть эти телефоны. Они относительно небольшие. Большую часть времени, которое мы проводим в сети, мы в основном осуществляем посредничество с помощью этих маленьких светящихся прямоугольников. Я думаю, что люди должны взаимодействовать по-другому. На сегодняшних онлайн-встречах вы смотрите на сетку лиц на экране. Мы не обрабатываем информацию таким образом, мы привыкли находиться в комнате с людьми и иметь ощущение пространства», — заявил Цукерберг, добавив, что на онлайн-конференциях ему трудно вычленять информацию и запоминать спикеров. А в метавселенной любое взаимодействие будет восприниматься реальным.

На данный момент Facebook бросил еще больше сил на разработку VR-устройств в своем отделе Oculus. Ведь именно очки и шлемы виртуальной реальности будут тем первым «телепортом» в метавселенной. Цукерберг выразил свое удивление тому, что обладатели Quest 2 используют устройство не только для игр, но и для других целей. Например, в виртуальной реальности можно заниматься различными видами спорта благодаря таким приложениям, как Supernatural и FitXR.

Создание удобных и легких очков дополненной реальности является одной из основных технологических проблем для Facebook. Цукерберг планирует создать такое AR-устройство, которое будет удобно носить ежедневно вне дома. Поэтому от Oculus требуется создать не только легкие и функциональные очки, вмещающие в свою оправу микросхемы, батареи и динамики, но также добиться их привлекательного внешнего вида.

«На самом деле это может быть одна из, если не самая большая технологическая проблема, с которой наша отрасль столкнется в следующем десятилетии. Мы склонны восхищаться масштабными вещами, не так ли? Но я думаю, что миниатюризация вещей и создание суперкомпьютера, который помещается в пару очков, на самом деле является одной из самых сложных задач», — отметил Цукерберг.

Идеи лидера Facebook подверглись жесткой критике со стороны издания Wired. Главный редактор Wired UK Джан Волпичелли назвал тезисы Цукерберга скучными и не отражающими идеи метавселенной. По его мнению, Facebook и Microsoft стремятся поработить мир еще сильнее, собирая данные о пользователях и внедряясь в частную жизнь. Цукерберг несколько раз за время своего долгого интервью возвращался к концепции деловых онлайн-конференций в дополненной реальности. Однако метавселенная — это гораздо больше, чем продуктивные бизнес-встречи, считает Волпичелли. Это место, в котором «преследуемые геронтократией» молодые энтузиасты смогут построить мир, в котором они будут занимать руководящие посты, зарабатывать уйму цифровой валюты и покупать виртуальные товары, которые будут почти такими же роскошными, как те, что они никогда не могли себе позволить в реальности. Отчасти это именно то, к чему стремились многие криптовалютные проекты второй волны, от DeFi до NFT.

Учредители компании Crucible Райан Гилл и Тоби Тремэйн, стремящиеся создать свободную метавселенную, также выступили с критикой больших корпораций. Они заявили, что благодаря таким криптографическим достижениям, как доказательство с нулевым разглашением, пользователи смогут доказать, что являются настоящими людьми, подтвердить свой возраст или пол, не раскрывая личность. Таким образом, в метавселенной будет создано пространство, свободное от преследования, травли и слежки.

«Позволить существующим гигантам социальных сетей сохранить контроль над нашей цифровой жизнью или заставить их играть по нашим правилам и гарантировать, что мы можем принимать собственные решения, определять собственные реалии и извлекать пользу из коллективной мудрости и опыта всех тех, чьи голоса до сих пор были не слышны. Грядет метавселенная — и она должна принадлежать всем нам», — провозгласили Гилл и Тремэйн.

Также, по мнению экспертов, Цукерберг собирается покорять метавселенную в не самое удачное время. Еще в прошлом году Конгресс США предложил разделить Facebook, Google, Amazon и Apple на маленькие компании для борьбы с монополиями. Корпорация Цукерберга не просто подавляет конкурентов, она покупает фирмы, копирует их, а затем уничтожает. А из-за отсутствия конкуренции Facebook совершенно не следит за конфиденциальностью данных пользователей. Пакет счетов, проходящий через Конгресс, потенциально может вынудить компанию выпустить Instagram и WhatsApp из-под контроля, а также ограничить способность Facebook делать будущие приобретения или предлагать услуги, связанные с ее устройствами.

Но даже если Facebook столкнется с препятствиями на пути к созданию метавселенной, общество уже пытается ответить на новые вопросы. Как управляется виртуальное пространство? Как будет модерироваться его содержимое? Как существование 3D-виртуальной реальности повлияет на наше видение мира? Рассуждать об этом пока сложно, но эпидемия коронавируса подталкивает нас все ближе к метавселенной. В Animal Crossing проводят настоящие свадебные церемонии, в Fortnite дают концерты такие всемирно известные исполнители, как Трэвис Скотт, Kaskade и Ариана Гранде. Все дальше развивается практика виртуальной примерки одежды перед совершением онлайн-покупки. Однако настоящая метавселенная не появится неожиданно.

Тим Суини считает, что путь к метавселенной будет поступательным и небыстрым, однако рано или поздно все компании и бренды окажутся вовлеченными в эту игру. Цукерберг соглашается с мнением Суини, принимая во внимание тот факт, что нынешние представления о реальности будущего, скорее всего, являются идеалистическими.

«[Метавселенная] станет следующей большой главой для нашей компании, мы действительно удваиваем свои усилия в этой области. В течение последних 17 лет мы много работали над созданием различных приложений для общения людей, и в основном ими пользовались на телефонах. Если мы добьемся успеха, то, может быть, через пять или семь лет люди будут в первую очередь думать о нас как о компании метавселенной, а не о компании мобильного интернета», — поделился мечтами владелец Facebook.

https://republic.ru/posts/101252

 19 ноября 2021

Дивный новый мир.Как технологии виртуальной реальности изменят нашу жизнь к лучшему?

…Цукерберг предложил создание виртуального мира, который был бы тесно связан с настоящим, — так, что люди не могли бы отличить искусственное от настоящего. В описанную основателем Facebook метавселенную человек мог бы внести несуществующие объекты и, наоборот, добавить в VR настоящие предметы. Например, обустроить свой дом вымышленными вещами и взаимодействовать с ними. Человек будущего мог бы взаимодействовать с аватарами пользователей, которые находятся на расстоянии от него: общаться, работать, играть в шахматы и баскетбол, заниматься фитнесом. Выходит, что концепция Цукерберга выходит за границы виртуальной реальности, предметы в которой не существуют на самом деле.

Часто пользователи путают виртуальную реальность с дополненной. Дополненная реальность создается в виде наложения виртуальных объектов в реальный мир. Она может дополнять трехмерные объекты или создавать на их основе новые. Как правило, дополненная реальность или AR существует в привязке к определенному объекту, местности, положению в пространстве. Примерами AR являются отображение полета траектории шайбы в хоккейных трансляциях, трехмерная визуализация мебели в комнате посредством камеры смартфона. В 2016 году популяризации технологии способствовал выпуск игры Pokemon Go, в которой геймеры с помощью смартфона могли проецировать в условиях городского ландшафта выдуманных животных — покемонов.

В случае, если виртуальная реальность соприкасается с дополненной, то получившуюся надстройку называют смешанной реальностью. Субъект MR погружен в искусственный мир, который может копировать свойства некоторых реальных окружений. Пространство и физические законы здесь могут как соблюдаться, так и нарушаться — словно в видеоигре. Четкие рамки виртуальной, дополненной и смешанной реальности пока что оговорены, поэтому для упрощения все термины могут объединить под общим понятием — виртуальная реальность.

Перспективы виртуальной реальности

По словам футуролога Бернарда Марра, виртуальная реальность является ключом для превращения информации в опыт. Неслучайно было так много сказано об играх, потому что они являются одной из движущих сил индустрии. Существует огромный пласт людей, готовых тратить деньги на самые впечатляющие и захватывающие развлечения. Это подтверждают данные аналитиков Goldman Sachs, по оценке которых в 2025 году рынок виртуальной и смешанной реальности будет оценен более чем в 30 миллиардов долларов. При этом львиная доля денег — порядка 12 миллиардов долларов — будут крутиться в игровой индустрии. Как отмечает основатель стартапа Sandbox VR Стив Чжао, пользователи будут верить в видеоигры будущего, словно все показанное происходит в реальности. Это позволит геймерам проживать моменты в играх по-настоящему и еще сильнее взаимодействовать с другими людьми.

Виртуальная реальность изменит общение, так как для полноценного контакта не нужно будет непосредственно находиться с собеседником в одной локации. Появятся VR-чаты и оборудование, которое будет сканировать пользователей, записывать их движение и речь, передавая на большие расстояния. Исчезнет необходимость в живом присутствии сотрудников на рабочем месте, так как их всегда можно будет собрать в одной виртуальной комнате. Проекты — в дизайне, архитектуре, моделировании — можно будет визуализировать и переносить в виртуальный трехмерный формат.

Условные чертежи здания можно будет не только перенести в 3D-формат, но и увеличить или уменьшить до нужных размеров, а также совершить виртуальную экскурсию внутри будущего объекта

Футурологи считают, что многие виды деятельности также будут перенесены в удаленный формат. Смешанная реальность даст толчок телемедицине: доктор сможет не только знакомиться с показателями пациента, но и принимать прямое участие в операциях. VR-очки или гарнитуры позволят оказаться внутри человеческого тела, проанализировать злокачественную опухоль и удалить ее. Полностью изменится образование: так, врачи могут сразу же изучать строение тела и различные аномалии на практике, тренируясь с помощью реалистичных симуляторов без опаски навредить больному. Уникальные виды виртуального обучения помогут более эффективно действовать в реальности: например, спасатели и военные смогут тренироваться ликвидировать сложный пожар и участвовать в специальных операциях без жертв.

Новые методы взаимодействия с реальностью полностью изменят сферу бизнеса. Инструменты будущего помогут компаниям работать более эффективно, позволяя сотрудникам опробовать новые идеи без потери ресурсов и сокращения сложных процессов. Смешанная реальность позволит членам команды испытать ситуацию на себе в смоделированной среде. Новые технологии продвинут маркетинг на новый уровень, что позволит бизнесу еще более тесно взаимодействовать с клиентом. Пользователи смогут посмотреть, как выглядит мебель в их доме, прежде чем покупать ее. В теории различные продукты — если те не окажутся полностью цифровыми в будущем — можно будет взять на тестирование и потом уже принять решение, нужна ли конкретная вещь или без нее можно обойтись. В 2020 году Microsoft, которая также работает над изучением виртуальной реальности, опросила бизнес-клиентов. Как оказалось, руководители 62 процентов предприятий уверены, что смешанная реальность улучшит уровень удовлетворенности клиентов, 55 процентов полагают, что VR, AR и MR сделают бизнес-процессы более эффективными.

В июне 2021 года футуролог Бернард Марр отметил, что развитие VR будет способствовать появлению на рынке новых гаджетов. Основным из них останется смартфон, который с помощью камеры и сканера позволит сымитировать виртуальную реальность в любом месте. Гарнитуры VR станут меньше, легче и получат больше функций. Например, для взаимодействия с объектами не нужно будет пользоваться контроллером, так как камеры VR-очков будут считывать движение рук. Технология контроля за глазами оптимизирует нагрузку, чтобы у пользователя от длительного погружения в параллельную реальность не возникли головная боль или тошнота. Вероятно, появятся новые костюмы, которые будут собирать данные с тела пользователя и фиксировать его передвижение.

Развитие технологий обязательно будет сопряжено с новыми проблемами. Возможно, появится риск взлома пользователя, пока тот находится в виртуальном пространстве. Есть опасения, что взаимодействие с виртуальной реальностью окажется настолько ярким и запоминающимся, что пользователи не захотят возвращаться в реальный мир. Также Марр приводит совсем антиутопичный пример, в котором люди постоянно подключены к машинам, рисующим им радужную картину, тогда как мир — как в «Матрице» — охвачен войной. Футуролог считает, что у альтернативной реальности определенно будут подводные камни, но потенциальные преимущества перевешивают все недостатки.

https://lenta.ru/articles/2021/11/19/v_r/

Безработные и несвободные: кого погубят новые технологии

Чем обернется технологический прогресс для человечества

 

Дмитрий Бевза 06.01.2019, 13:05

О новых технологиях и месте среди них человека снимают кинофильмы, пишут статьи и спорят обыватели. Изобретения бесцеремонно меняют жизнь и при этом часто ограничивают свободу, рушат этические нормы и лишают работы. Чего ждать дальше? «Газета.Ru» опросила IT-экспертов и выяснила, какие риски несут людям новые технологические решения и чего нам бояться, а на что не стоит обращать внимание.

Что-то пошло не так

До недавнего времени технический прогресс человечества прочно ассоциировался с социальным. Новые изобретения и новые технологии шли нога в ногу с ростом благосостояния, сокращением разрыва между богатыми и бедными, подъемом среднего класса, всеобщим средним и бесплатным высшим образованием, созданием пенсионных систем и прочими социальными благами. В конце XX века сомнения в том, что интернет, мобильная связь, робототехника, растущие вычислительные мощности могут завести человечество куда-то «не туда», были уделом маргиналом и конспирологов. Сейчас ситуация выглядит уже не столь однозначной.

Информационные технологии принесли новые коллизии практически во все сферы человеческой жизни.

Дискуссии о применении патентного и авторского права в интернете, споры о частности или общественности пространства социальных сетей не затихают до сих пор, а использование искусственного интеллекта, компьютерного зрения и комплексов городского видеонаблюдения (CCTV) вообще стерло границы частной жизни.

То, как влияют информационные технологии на жизнь общества, нашло отражение даже в массовой культуре. Сериал «Черное зеркало», описывающий эти проблемы, стал настоящим хитом британского телеканала Channel 4.

Во всем важен контроль

Специалисты, опрошенные «Газетой.Ru», выделили несколько аспектов, касающихся влияния информационных технологий на общество. Как ни парадоксально, но почти все эксперты сошлись во мнении, что главную опасность для человечества представляют не новые технологии, а сами люди.

IT-эксперт Александр Баулин считает, что сами по себе новые изобретения и научные открытия не могут принести вред, но люди должны более ясно представлять себе результат их применения.

«Если не думать о проблемах, то в свое время лошадиным навозом можно было бы завалить весь Лондон или вырубить все деревья в Англии. Нам кажется, это преувеличением, но на Кипре так и произошло: остров жил выплавкой меди, однако вырубка всех деревьев нарушила экологию острова. Нужно просто не забывать, что все технологии имеют побочные эффекты и, используя их, важно продумывать последствия», — считает Баулин.

В том, что главную угрозу людям несут вовсе не технологии, соглашается и ведущий аналитик Mobile Research Group Эльдар Муртазин.

«Если посмотреть на то, какие решения иногда принимают многие мировые политические лидеры и главы огромных компаний, возникает большой соблазн заменить этих людей искусственным интеллектом», — заявил Муртазин, выразивший уверенность, что со временем ИИ будет допущен не только к экспертной оценке ситуаций, но и к принятию решений.

«Тут, конечно, есть некоторая опасность. В том, как работают машинные алгоритмы, разбираются единицы, а для остальных это «черный ящик».

Если доверить искусственному интеллекту автоматизировать процесс принятия важных решений, то существует риск того, что эти решения окажутся совершенно чужды человеческой логике, нашим понятиям о морали и этике», — считает аналитик.

«Опасность исходит не от технологий как таковых, а от людей, которые ими распоряжаются», — говорит телеком-эксперт и аналитик MForum Analitics Алексей Бойко. По его словам, если общество научится контролировать спецслужбы, армию, политиков, крупный бизнес, то этого должно хватить для того, чтобы превентивно защититься от опасных последствий появления новых технологий.

По мнению Бойко, дихотомия «добро/зло» в отношении технологий и научно-технического прогресса некорректна: «Это деление мне представляется надуманным. Микроскопом можно убить человека, а уж насколько опасным может быть «мирный атом», мы знаем не понаслышке. Хорошо обученная система компьютерного зрения может выявлять рак на томограммах на месяцы ранее, чем это делает высококвалифицированный врач с десятком лет стажа, а аналогичная по сути система может вести охоту за людьми с автономного ударного беспилотника».

Прогресс не остановить

Все опрошенные эксперты уверены, что позитивные изменения, приносимые научно-техническим прогрессом, значительно превосходят неизбежный «сопутствующий ущерб». Однако человек воспринимает все улучшения как естественный ход событий, а нежелательные последствия, к которым люди не успевают адаптироваться, становятся чем-то экстраординарным и, соответственно, привлекают больше внимания.

По мнению исполнительного директора НКО «Общество защиты интернета» Михаила Климарева, технологии развивались, развиваются и продолжат развиваться в ближайшее столетие. Эксперт отметил несколько направлений, от которых он ожидает прорыва в ближайшие годы — это интернет вещей, сети пятого поколения, большие данные и искусственный интеллект.

«Я думаю, что ИИ не будет «разумом, который все контролирует и самостоятельно принимает решения». До создания подобного предстоит решить много инженерных проблем — это дело десятилетий. Но вот решение задачи по оптимизации автомобильного движения или общение с ИИ на естественном языке уже на подходе», — считает Климарев.

Эльдар Муртазин также обратил внимание на то, какой прогресс произошел в области взаимодействия человека и ИИ. По его мнению, переход на естественные языки взорвет рынок голосовых помощников.

«Критикуя интернет, социальные сети и «тупые» голосовые помощники, многие не обращают внимание, на то, как эти технологии уже улучшили жизнь тех же маломобильных и слабовидящих людей. Если раньше они были отрезаны от мира, то сейчас эти технологии помогают им интегрироваться в социум», — отметил эксперт.

Киборги идут

Одной из главных техноугроз XXI века многие эксперты и социологи считают роботизацию экономики. Рассуждения и подсчеты о том, какого количества рабочих мест лишатся люди с появлением полностью автоматизированных фабрик и беспилотных автомобилей, ведутся буквально каждый день.

Глава GSMA Матс Гранрид согласился с тем, что эта проблема существует: «Что касается водителей, то да, она очевидна. Например, в Манхэттене сейчас работает почти 14 тыс. такси. В случае замены их умными беспилотными автомобилями, подключенными через сети 5G к искусственному интеллекту, будет достаточно всего 2 тыс. машин, а время их ожидания сократится до двух минут. Проблема потери рабочих мест касается не только водителей, но и ритейла. Уже сейчас все большее и большее количество людей делают покупки онлайн».

Возможно не самой важной, но уж точно самой болезненной темой, связанной с влиянием на нашу жизнь информационных технологий, стала так называемая прозрачность, то есть стремительно сужающееся поле частной жизни.

Жизнь современного человека онлайн и офлайн, его покупки, транзакции, интернет-запросы, его местопребывание и перемещения, даже то, что он говорит вблизи смартфона, становится предметом маркетингового анализа или интереса спецслужб или злоумышленников.

«Да, это явление имеет место быть. Становится все труднее скрывать, «что вы делали прошлым летом», — считает Климарев, -— При этом такая прозрачность имеет не только отрицательную коннотацию. Она также означает более высокий уровень безопасности — личной, информационной, финансовой. Совершать противоправные действия становится все более опасным и сложным занятием».

С другой стороны, по мнению эксперта, все это накладывает ответственность и на самих людей и формирует особое отношение к действиям разных интернет-сервисов.

«Я думаю, что в наступившем году (как, впрочем, и в последующем) особое внимание общественности будет привлекать такое достаточно новое явление, как «цифровые права», что повлечет появление новой профессии, которое условно назовем «цифровой юрист», — уверен Климарев.

Алексей Бойко в «новой прозрачности» видит не столько этическую проблему, сколько новый социальный вызов.

«В ближайшие десятилетия мы можем столкнуться с новым, невиданным уровнем прозрачности общества, когда технологии позволят в любой момент отслеживать местоположение на планете любого человека, знать о нем больше, чем знают его близкие, и даже «читать его мысли», в той или иной степени приближения к этой идее. Это создает соблазн создания полицейских государств с еще невиданным уровнем контроля малой группы населения за остальным населением, с навязыванием меньшинством большинству своей воли, с сужением поля «свободы воли». Человечество должно будет перерасти эти соблазны — или же оно превратится в структуру наподобие роя, где отдельные составляющие живут и действуют не столько в своих интересах, сколько в интересах роя, а роли составляющих рой организмов предопределены», — предостерегает эксперт.

 https://www.gazeta.ru/tech/2019/01/06/12118177/progress_neostanovim.shtml 

27 МАРТА

Новому «синтетическому веку» — новые правила жизни. 

Что такое синтетическая биология, каковы ее перспективы

Александр Бардашев

Пересказ книги «Машина бытия» (The Genesis Machine: Our Quest to Rewrite Life in the Age of Synthetic Biology) футуролога Эми Уэбб и генетика Эндрю Гесселя.

Контекст

Является ли биологическая жизнь чем-то неподвластным человеческой воле? Или живые организмы, включая людей, не отличаются в корне от компьютеров, и их можно перепрограммировать? Синтетические биологи уверены в последнем. Они изучают возможность рекомбинации и создания новых цепочек ДНК с целью придания новых свойств привычным организмам.

Возможности

Синтетическая биология так радикально меняет мир, что современную эпоху уместно называть «биологическим веком», подобно тому как бронзовый и железный века названы по доминирующим в те времена материалам. Эта область знаний, по мысли авторов, изменит три ключевые области жизни на Земле (и за ее пределами): медицину, производство пищи, окружающую среду. …

Проблемы

Однако распространение исследований и применение результатов исследований в области синтетической биологии затруднено несколькими факторами и несет в себе серьезные риски. Один из них — невозможность избежать двойного применения биотехнологий. Как и «мирный атом» в прошлом веке, исключительно «мирный биосинтез» невозможен. Почти любую технологию возможно использовать во вред….

Вызывает опасения и риск нового разрыва в обществе. Как сегодняшний «цифровой разрыв» разделил людей на имеющих и не имеющих доступ к информации и новым возможностям, завтрашний «генетический разрыв» приведет к разделению на тех, кто позволит себе и своим детям модификации делающие их сильнее, умнее и привлекательнее, и тех, кто останется за бортом.

Заключение

Эти и связанные риски требуют серьезного к себе внимания. Авторы дают рекомендации для глобального сотрудничества государств, бизнесов и граждан, которое необходимо, чтобы сгладить эти риски и сделать генетическое будущее лучше, а не хуже, чем настоящее. Странам и компаниям необходимо найти общие основания для разработок биотехнологий. Необходима система, подобная Бреттон-Вудской системе международных денежных отношений. Ее участники должны согласиться на взаимный контроль своих биотехнологических операций, например, через построенный на блокчейне реестр. Вместе с этим будет разработана международная система лицензирования исследований и применения биотехнологий. Это обеспечит прозрачность, которая снизит политическую напряженность между разными акторами.

На уровне отдельных стран необходимо разрабатывать законодательство, соответствующее вызовам времени. С одной стороны это регулятивные механизмы, с другой — свобода исследований и предпринимательства в рамках этих механизмов. Государственный аппарат должен включить в себя ведомства, занимающиеся разработкой принципов биотехнических исследований, соответствующие международной системе. Текущие нормы права должны быть пересмотрены, чтобы отбросить старые нормы, замедляющие развитие биотехнологий.

Наконец, негативное мнение общества о генных модификациях строится на кризисе веры в науку. Это значит, что одной из целей публичной политики должно стать восстановление диалога между науками и обществом. От ученых же нужно требовать более прозрачной коммуникации с обществом. Важно стремиться к тому, чтобы любая технология или фундаментальное открытие сопровождалось максимально понятным пресс-релизом, отмечающим потенциальные области применения и риски.

https://republic.ru/posts/103424

30 ноября 2021 Ольга Мурая

Роботы, способные к размножению, впервые созданы в лаборатории

Американские учёные создали первых "живых" роботов. В ход пошли эмбриональные стволовые клетки гладкой шпорцевой лягушки (Xenopus laevis). Совершенно новый тип искусственной "живой" системы получил название "живой программируемый организм".

На первом этапе работы учёные разработали компьютерный алгоритм, который помог исследователям подобрать идеальную форму "кандидата в живые существа", подходящую для решения определённых задач. После этого учёные воссоздали предложенные искусственным интеллектом структуры в чашке Петри.

Доселе невиданные "существа" — ксеноботы — с геномом шпорцевой лягушки состояли лишь из клеток кожи и сердца земноводного. Они могли самостоятельно двигаться и даже перемещать небольшие объекты по запрограммированной траектории. Этот эксперимент был проведён ещё в 2020 году.

Однако все живые организмы, чтобы действительно считаться таковыми, должны обладать способностью к размножению. Именно этого добилась в ходе своей последней работы исследовательская группа.

Теперь ксеноботы способны находить во внешней среде подходящие стволовые клетки, группировать их и собирать из них маленьких "ксеноботят" прямо у себя во "рту" – треугольном углублении в теле, которое делает их похожими на Пакмана, персонажа популярной видеоигры 80-х годов прошлого века.

Через несколько дней после такой сборки эти группы клеток становятся полноценными ксеноботами, такими же как и их "родители" и способными на дальнейшее размножение.

Им не нужно "отдавать приказ", чтобы они приступали к этому делу. Ксеноботы начинают "делать детей" совершенно спонтанно, как это происходит и у настоящих живых организмов.

Это потрясающее достижение удивило даже самих его создателей.

Несмотря на то, что "живая система" состоит из тканей живой лягушки и обладает идентичным ей геномом, она размножается уникальным образом, недоступным для растений и животных. Этот способ размножения называется кинематической репликацией, и он встречается на уровне отдельных молекул. Однако никогда ранее исследователи не видели, чтобы полноценные организмы воспроизводили себе подобных таким образом.

Искусственная жизнь, способная к размножению и выполнению разнообразных задач… Если представить, что может пойти не так в подобном эксперименте, становится, мягко говоря, не по себе.

Что, если эта система выйдет из-под контроля или так или иначе ускользнёт из стен лаборатории? Что, если она сможет эволюционировать и встроиться в реальные экосистемы? Всё это вызывает самые серьёзные опасения. Впрочем, для саморепликации ксеноботам всё же нужен особый строительный материал.

Авторы новой работы отмечают, что они сами устрашающих сценариев не боятся. Ведь существование живых машин размером не более миллиметра — это вовсе не то же самое, что риск новой пандемии, глобальное загрязнение окружающей среды и изменение климата планеты.

Создатели ксеноботов считают, что их система очень даже нужна миру и идеально подходит для решения всех этих серьёзнейших проблем современности. Ксеноботы не только могут очищать жидкие среды от загрязняющих веществ, но и помогать в разработке новых лекарств.

Для этого достаточно поставить перед искусственным интеллектом задачу собрать организм, выполняющий те или иные функции. Далее машина предложит варианты того, как может выглядеть самая подходящая для этого живая система.

Такой метод позволит использовать ксеноботов в самых разнообразных медицинских целях.

"Если мы можем приказать набору клеток делать то, что мы хотим, в конечном счёте, это [поможет в развитии] регенеративной медицины — заживлении травматических повреждений, врождённых дефектов, лечении рака и профилактике старения, – говорит один из ведущих авторов исследования Майкл Левин (Michael Levin) из Гарвардского университета.

Выдающиеся перспективы. Работа исследователей из США была опубликована в издании PNAS.

Напомним, ранее мы рассказывали о том, как полусинтетическая бактерия впервые создала новый для науки белок. Также мы сообщали о том, что искусственные клетки крови оказались даже лучше настоящих.

К слову, писали мы и о "клетке-франкенштейне" с полностью искусственной ДНК и также способной к размножению.

https://www.vesti.ru/nauka/article/2646372?utm_source=push&utm_campain=notification

Microsoft разработает цифровые клоны людей

Карина Казанцева 09.01.2021 | 19:59

 Корпорация Microsoft зарегистрировала патент на создание «голосового чатбота на основе характеристик конкретного человека». Это следует из информации Ведомства по патентам и товарным знакам США.

Отмечается, что при работе над «чатботом» компания будет собирать изображения, образцы голоса, записи в социальных сетях, электронные письма, рукописные письма о конкретном человеке. Это будет применяться для создания или изменения данных о человеке.

Такие разработки означают, что корпорация в будущем сможет создавать цифровых клонов умерших людей.

https://www.gazeta.ru/tech/news/2021/01/09/n_15465752.shtml

Черт из машины

 11.05.2019, 09:21

Алексей Сахнин о том, ждет ли нас деспотизм разумных машин

Мы живем во времена новой индустриальной революции. Будущее, которое она обещает, завораживает и пугает. «По своим масштабам, глубине и сложности эта трансформация будет превосходить все, что человечество испытывало раньше», — сказал Клаус Шваб, создатель и президент Давосского форума.

…Знаменитый шведско-американский космолог Макс Тегмарк, пишет, что большинство технологических проблем можно решить, если обеспечить создание «дружественного искусственного интеллекта». Умные и способные к самообучению машины смогут не только лечить недуги и дешево производить все необходимые для нас вещи, но и снизят уровень насилия, обеспечат высокие стандарты жизни и экологическую безопасность – только за счет интеллектуального превосходства над человеком. Его полная оптимизма теория очень популярна на Западе. Организованные Тегмарком конференции посещают самые известные ученые, бизнесмены и политики. Его проект по исследованию рисков продвинутого искусственного интеллекта финансирует Илон Маск.

Впрочем тот же Макс Тегмарк описывает и возможное наступление информационного тоталитаризма: «Прочитывая всю электронную почту, все СМС, когда-либо отправленные, слушая все телефонные разговоры, просматривая все записи с камер наблюдения охранных и дорожных служб, отслеживая все проводки по кредитным картам и любые действия, совершаемые онлайн, искусственный интеллект занял бы исключительную позицию, откуда ему открывалось все что люди думают и делают». В итоге человечество может оказаться в полной зависимости от умных машин, как это показано в фильме «Матрица».

…Но и техно-оптимисты, и пророки будущего торжества машин игнорируют самое важное. А именно, что имея дело с Машиной, пусть даже наделенной ИИ, человек на самом деле взаимодействует с другими людьми. Потому что в реальном мире, а не в фантазиях футурологов, у каждой машины, программы или технологии есть хозяин. И нажимая на клавиши компьютера или двигая рычаги космического корабля, человек всякий раз вступает во взаимодействие с тем, кто дал деньги на исследования или инвестировал в новое технологическое производство.

Это взаимодействие создает иерархию, но не между человеком и машиной, а между разными людьми. Делая одних наемными работниками, а другим давая в руки прибыль, созданную этими работниками с помощью машин. Отношение «человек-машина» лишь маскирует реальные отношения между людьми, которые предполагают неравенство, противоположность социальных интересов и контроль верхов за низами.

Поэтому для того, чтобы изменить отношение человека и технологии нужно менять не саму технологию, а сложившиеся в обществе отношения власти и собственности. Капитализм, при котором человека, его живую плоть, его способность мыслить, творить и работать можно покупать и продавать, делает человека рабом социальной машины. Продавая свой труд и свои способности на рынке, обменивая их на вещи, выраженные в деньгах, человек неизбежно попадает в зависимость от этих вещей и денег, а также в зависимость от того, кому они принадлежат. А принадлежат они, как и все остальное, собственникам капитала.

Поскольку человек вступает в отношения с ними не напрямую, а через посредство машин, то это и создает иллюзию, что именно машины, технологии контролируют нашу жизнь.

Именно поэтому буржуазные теоретики, философы и футурологи бесконечно пытаются уйти от дискуссии про социальные противоречия в спекуляции относительно технологии. Заменить критику капитализма эфемерными понятиями «индустриального» и «постиндустриального» общества, которые якобы самой своей технологической конструкцией определяют все отношения между людьми, делая одних «жадными хамами», а других «рабами».

Антиутопия, нарисованная в «Матрице» или «Эллизиуме» уже воплотилась. Вспомним, например, рассказанную Эдвардом Сноуденом историю про то, как спецслужбы США следят за десятками миллионов людей на всех континентах. Они прослушивают телефонные разговоры и читают личную переписку с помощью технологий распознавания голоса и изображения, автоматического перевода и других достижений ИИ.

Уже сегодня эти технологии позволяют властям и спецслужбам знать все, что вы пишете, говорите, о чем мечтаете, каково ваше финансовое состояние, где вы находились в каждый момент времени. И такие данные доступны не только правительствам, но и коммерческим компаниями, которые размещают контекстную рекламу, зарабатывая деньги на изучении ваших поисковых запросов в интернете.

Тоталитаризм проступает в нашей, а не выдуманной фантастами реальности. И для его торжества вовсе не нужно представлять себе нового гомункулуса, рукотворный разум, который превзойдет своих создателей, чтобы поработить их. Это уже произошло.

Настоящий ИИ — капитал, понятый как общественное отношение или социальная технология, находящаяся в руках элиты. И этот ИИ обладает своими целями, часто не совместимыми с нашими. Поэтому он и наращивает технологии контроля, пропаганды, цензуры и репрессий. Для того чтобы фантастические достижения технического прогресса могли служить всем нам, делая нашу жизнь богаче, свободнее, насыщеннее и интереснее, нужно чтобы технологии перестали быть частной собственностью «мыслящих роботов», т.е. правящих нами сегодня олигархий, а стали достоянием всего общества.

Тогда они будут работать на нас, а не против нас. Технологии ИИ, блокчейн и интернет вещей позволят заменить разрушительное для общества и окружающей среды производство ради прибыли разумным планированием для которого не нужна громоздкая бюрократия. Это позволит не только преодолеть нищету, голод и неравенство, но и сберечь нашу планету от экологического коллапса.

3D-принтеры, автопилотируемый транспорт и роботизированная промышленность вместо безработицы обеспечат сокращение рабочего времени. На смену ему придет образование, развитие культуры, социальных навыков, новых образов жизни – то есть реализация настоящего творческого потенциала человека и человечества. Мучительная предыстория человечества наконец закончится, уступив место Истории – нашему сознательному становлению, как мыслящего вида, сумевшего осознать и подчинить самому себе свои творческие, интеллектуальные и социальные силы.

https://www.gazeta.ru/column/s77173/12329773.shtml?utm_source=push

 

«Неизбежно. 12 технологических трендов, которые определяют наше будущее»

Кевин Келли

https://www.livelib.ru/book/1002138824-neizbezhno-12-tehnologicheskih-trendov-kotorye-opredelyayut-nashe-buduschee-kevin-kelli

  Smithsonian (США): десять тенденций, которые определят развитие науки в 2020-х годах

16.03.2020

 Греф перечислил важнейшие современные технологии

Греф назвал искусственный интеллект, 6G и беспилотный транспорт важнейшими технологиями

Самыми важными технологиями для России сейчас являются искусственный интеллект, квантовые вычисления, шестое поколение мобильной связи 6G и беспилотный транспорт. Такие технологии перечислил глава Сбербанка Герман Греф, его слова передает РИА Новости.

https://lenta.ru/news/2021/11/07/germangref/ 

 

Тотальная слежка и фейки: каким будет ИИ будущего

Тренды и прогнозы в сфере искусственного интеллекта на 2019 год

Маргарита Герасюкова 02.01.2019

Больше требований, больше ответственности…

Расцвет фейков

…В этом же году мир всерьез озаботился развитием deep fakes — технологии, которая с помощью искусственного интеллекта может создавать фейковые ролики, практически неотличимые от настоящих, что выводит дезинформацию в интернете на новый качественный уровень….

Правда вскроется…

Всевидящее око…

ИИ на страже безопасности…

Вопрос доверия…:

https://www.gazeta.ru/tech/2018/12/29/12113281/II_2019.shtml

 

На новой волне.Технологии меняют мир до неузнаваемости. Каким он будет?

13 ноября 2021

Технологии на наших глазах меняют представление о человеке. Каким он будет? И как найти себе место в будущем? Ответы — в совместном проекте «Ленты.ру» и Homo Science.

Рынок труда на фоне новых технологий подвергается кардинальным переменам. Если несколько лет назад ключевыми оставались профильные знания и глубокое понимание задач, то сегодня компании обращают внимание и на другие качества кандидатов. Все больше ценятся soft skills, или гибкие навыки, которые помогают человеку усваивать новую информацию, решать жизненные задачи и успешно взаимодействовать с другими людьми.

«Мы живем в постоянно меняющемся мире, в котором каждый день появляются новые компетенции, а старые отходят на второй план, — говорит гендиректор корпоративной академии «Росатома» Юлия Ужакина. — Для того чтобы не стоять на месте и оставаться востребованным специалистом, человеку нужно постоянно заниматься саморазвитием. И на первый план в нем выходят такие навыки, которые применимы в любых ситуациях — как на работе, так и в жизни. Это, например, способность организовывать себя и других, умение учиться и разучиваться, начинать с чистого листа, сила воли, умение ставить цели и достигать их, резилентность — умение встать после падения и подстраиваться под новые требования среды, гибкость и многое другое».

Считается, что soft skills развиваются в течение всей жизни человека, с самого детства, и тесно связаны с эмоциональным интеллектом — способностью распознавать чужие эмоции, намерения коллег и оказывать на них влияние. По данным компании Wonderlic, 93 процента ведущих нанимателей заявили, что гибкие навыки являются существенным или очень важным элементом при принятии решения о найме работника. Более того, многие работодатели оценивают навыки межличностного общения даже выше специализированных технических знаний.

В будущем приоритет будет отдаваться непредубежденным людям, которые смогут легко переключаться с одной задачи на другую, по мере необходимости брать на себя разные обязанности, адаптировать свое поведение к потребностям коллег, справляться с неопределенностью и находить положительные стороны в ситуации, когда что-то идет не так. Кроме того, важную роль играет целеустремленность и внутренняя мотивация, поскольку работники с такими качествами не нуждаются в контроле и подталкивании…

Виртуальные ассистенты и ИИ…

Новые люди…:

https://lenta.ru/articles/2021/11/12/soft/

Со скоростью света. Как квантовые компьютеры изменят мир и жизнь

Как работают квантовые компьютеры….

Как применяются квантовые компьютеры сейчас…

ИИ и криптосистемы…

Квантовые компьютеры изменят мир и общество…:

https://lenta.ru/articles/2021/11/03/quant/

 

      Будущее уже наступило: искусственный интеллект стремительно развивается, практически во всех сферах жизни мы так или иначе пользуемся помощью машин. Но что дальше?

Если вас интересуют футурологические прогнозы, то без хороших книг о развитии технологий не обойтись. :

Форма жизни №4
Как остаться человеком в эпоху расцвета искусственного интеллекта

Евгений Черешнев

Kнига о влиянии автоматизации на социум, семью, экономику и геополитику, об инструментах защиты от трекинга и цифровых угроз.

Искусственный интеллект, аналитика и новые технологии

Коллектив авторов HBR

Из книги вы узнаете, как когнитивные технологии влияют на бизнес, почему алгоритмы не могут работать без менеджеров, как должен выглядеть маркетинг в эпоху умных помощников, почему каждой организации нужна стратегия дополненной реальности. Также в издании затронуты темы дронов, блокчейна, 3D-печати и выживания в экономике хабов.

Воспитание машин: Новая история разума

Сергей Шумский

• Индустриальное общество неспособно прокормить более 10 млрд человек, так как достигло своего предела сложности.
• Без создания искусственного разума в ближайшие годы человечество просто не сможет обойтись.
• Искусственный интеллект является замыкающей технологией, открывающей возможность перехода к новому технологическому укладу.

 

Искусственный интеллект: Перезагрузка. Как создать машинный разум, которому действительно можно доверять

Гэри Маркус и Эрнест Дэвис

• Книга о реальном положении дел в области искусственного интеллекта.
• Известные исследователи ИИ рассказывают, как совершить прорыв в создании думающих машин.
• Перспективы и риски развития интеллектуальных систем в ближайшем будущем.

 

Искусственный интеллект в медицине: Как умные технологии меняют подход к лечению

Эрик Тополь

• Впервые на русском языке новая книга Эрика Тополя — признанного мирового эксперта, врача-практика, ученого и футуриста
• Всесторонний обзор развития и глубокого обучения ИИ и внедрения его в современное здравоохранение

 

Как учится машина. Революция в области нейронных сетей и глубокого обучения

Ян Лекун

Ян Лекун, не прибегая к метафорам, делится своим научным подходом на стыке компьютерных наук и нейробиологии, проливая свет на будущее искусственного интеллекта, связанные с ним проблемы и перспективы. 

 

9 июня 201916:36

Составлен список основных угроз человечеству

 

Список главных угроз для жизни на Земле представило британское маркетинговое агентство Blueclaw. Авторы выделили четыре главных категории угроз: эпидемии болезней, ядерная война, природные катастрофы и удар астероида.

Список составлен на основании информации десятков источников, в том числе данных ООН, Всемирной организации здравоохранения, Европейского центра контроля и профилактики заболеваний и НАСА. Результаты опубликованы на сайте, озаглавленном How Will The World End? …:

 https://www.vesti.ru/doc.html?id=3156270&cid=7

Kнигa одного из директоров Немецкого федерального банка Тило Саррацина «Германия. Самоликвидация» о вызовах падения рождаемости, нехватки рабочих рук и потока беженцев-мусульман.

Основываясь на обширной статистике и собственных расчетах и прогнозах, Тило Саррацин, известный политик и бывший сенатор Берлина, убедительно показывает, что мусульманское сообщество в Германии не стремится к интеграции в немецкую жизнь. Уровень образования и участие в трудовой деятельности иммигрантов остается гораздо ниже уровня коренного населения, что при традиционно высокой рождаемости у мусульман представляет реальную угрозу для страны. Автор высказывается за жёсткую миграционную политику и показывает пути выхода из кризиса.

 https://www.litmir.me/bd/?b=233730 

Глубокое изучение, глубокое понимание, глубокий искусственный интеллект — список можно продолжать и продолжать. Но вместе с беспрецедентными обещаниями надвигается беспрецедентная опасность. Так оценивает обозреватель «Нью-Йорк таймс» перспективы прогресса в развитии цифровых технологий, систем связи, обработки больших объемов данных и искусственного интеллекта.

The New York Times (США): внимание! В эпоху «надзорного капитализма» все идет вглубь

 

04.02.2019 Томас Фридман (Thomas L. Friedman

 

…Некоторые из этих технологий олицетворяют беспрецедентные обещания, а некоторые — беспрецедентные опасности, но все они сейчас являются частью нашей жизни. Все глубоко развивается.

…Как пишет «Таймс», DeepMind «демонстрирует еще один способ, которым компьютеры могут быть развиты настолько, чтобы вести себя лучше людей при выполнении задач высокой сложности» и «имитировать способ функционирования мозга». Следующий прорыв DeepMind, а именно AlphaZero, даже не имеет потребности учиться у людей. Программа учится даже быстрее, повторно играя против самой себя.

…20 января «Лондон обзервер» прокомментировал новую книгу профессора Гарвардской бизнес-школы, Шошани Зубофф (Shoshana Zuboff), название которой идеально описывает те глубокие темные воды, в которые мы заходим в «Эре наблюдательного капитала».

….Регуляторные механизмы часто отстают от новых технологий, и когда они движутся так быстро и поражают так глубоко, этот отрыв может быть по-настоящему опасным.

…глубокие изменения приближаются. Это вызывает тревогу, и да — назад уже не поплыть. Мы действительно сегодня далеки от мели.

https://inosmi.ru/social/20190204/244510293.html

«Netократия. Новая правящая элита и жизнь после капитализма» 

 Александр Бард, Ян Зодерквист

 Рецензии на книгу

 

"Не в пример всем предыдущим попыткам, "Netoкратия" проникает в самые глубины информационной революции и должна стать настольной книгой для каждого, кто хотя бы отдаленно интересуется тем, чем там занимаются все эти ребята с их навороченными электронными игрушками. Изменения оказались разительнее, грандиознее и драматичнее, чем мы могли ожидать. В этом смысле, "Нетократия" - непревзойденный путеводитель по местам революционных сражений". Йонас Риддерстрале и Кьелл Нордстрем, авторы книги "Бизнес в стиле фанк" Нетократию составляют люди с блестящими коммуникационными способностями и талантом манипулировать информацией. Те, кто не в состоянии воспользоваться преимуществами новых интерактивных технологий, образуют низший класс цифровой эры. Рекламные огни продолжают ярко гореть, но ни капитализм, ни демократия не имеют уже к этому отношения. Что дальше? Вслед за капитализмом наступает эпоха аттенционализма. Те, кому удастся обуздать глобальную информационную сеть и научиться управлять новыми формами коммуникаций, встанут у руля финансов и законодательства, унаследут власть и образуют класс новой деловой элиты - нетократию. "Netoкратия" - единственный в своем роде труд, смело разрушающий границы академических наук, сводя в единое целое философию, социологию, историю, экономику, бизнес и теорию управления. Это воистину первая книга, столь глубоко исследующая революционные проявления продолжающихся перемен в сфере информационных технологий - в экономике, политике, культуре и средствах массовой коммуникации. Интерактивность становится основным признаком коммуникаций, всё вокруг меняется, и эта книга дает объяснение, как и почему это происходит.
Подробнее на livelib.ru:
https://www.livelib.ru/book/1000312415-netokratiya-novaya-pravyaschaya-elita-i-zhizn-posle-kapitalizma-aleksandr-bard

 

 

       Митио Каку (Michio Kaku) « Будущее разума »

(The Future of the Mind: The Scientific Quest to Understand, Enhance, and Empower the Mind) 

 

Прямое мысленное общение с компьютером, телекинез, имплантация новых навыков непосредственно в мозг, видеозапись образов, воспоминаний и снов, телепатия, аватары и суррогаты как помощники человечества, экзоскелеты, управляемые мыслью, и искусственный интеллект. Это все наше недалекое будущее. В ближайшие десятилетия мы научимся форсировать свой интеллект при помощи генной терапии, лекарств и магнитных приборов. Наука в этом направлении развивается стремительно. Изменится характер работы и общения в социальных сетях, процесс обучения и в целом человеческое развитие. Будут побеждены многие неизлечимые болезни, мы станем другими. Готов ли наш разум к будущему? Что там его ждет? На эти вопросы, опираясь на последние исследования в области нейробиологии и физики, отвечает Митио Каку, футуролог, популяризатор науки и автор научно-популярных бестселлеров. http://loveread.ec/view_global.php?id=66575

Scientific American (США): алгоритмическая внешняя политика

Популярная наука

Искусственный интеллект, способный предсказывать мировые события, может радикально изменить геополитику

31.08.2019 Абишур Пракаш (Abishur Prakash)

В прошлом году Китай объявил о разработке новой системы искусственного интеллекта для внешнеполитических целей. Она называется «платформой моделирования и прогнозирования геополитической среды», и она работает, обрабатывая огромные объемы данных и затем предлагая китайским дипломатам рекомендации по внешней политике. Согласно одному источнику, Китай вот уже несколько лет использует аналогичную систему искусственного интеллекта для оценки почти всех иностранных инвестиционных проектов.

Подумайте, что означают такие разработки: постепенно внешняя политика отходит от дипломатов, компаний, занимающихся оценкой политических рисков, и аналитических центров — в прошлом первых организаций, к кому бы обратились. Постепенно внешняя политика движется в направлении современных алгоритмов, основная цель которых состоит в том, чтобы анализировать данные, прогнозировать события и консультировать правительства в отношении того, что делать. Как будет выглядеть мир, когда страны начнут использовать алгоритмы, чтобы предсказывать дальнейшие события?

Прогнозирование следующего всплеска социальных волнений…

Прогнозирование будущего геополитического ландшафта…

…Может ли подобная система, основанная на искусственном интеллекте, анализировать мировых лидеров и делать соответствующие прогнозы?

…Впервые страны смогут заблаговременно планировать свои шаги на мировой арене на основе прогнозов, сделанных алгоритмами.

Прогнозируя мир, который изменили прогнозы

Когда страны начнут обращаться к алгоритмам прогнозирования событий, внешнюю политику ждут преобразования. Страны будут взаимодействовать друг с другом, зная, что каждый их шаг может быть предсказан за несколько дней, недель или месяцев. Такая трансформация изменит мир бизнеса и геополитики.

Сможет ли Германия предупредить свои транснациональные корпорации о конфликте в Африке за несколько месяцев до его возникновения? Смогут ли латиноамериканские страны совместно остановить гражданскую войну в регионе за несколько недель до ее начала? Вооружившись прогнозами, компании и страны смогут решать мировые проблемы совершенно новыми и неожиданными способами.

В будущем прогнозирование мировых событий может стать нормой. Правительства, которые не будут прогнозировать события, могут столкнуться с хаосом. Компании, которые будут игнорировать прогнозы, могут стать изгоями. И единственное преимущество, доступное странам, может вскоре стать более непредсказуемым, чем когда-либо прежде.

https://inosmi.ru/social/20190831/245740841.html

Робот убьет меня, моих близких и мою работу

13.09.2019, 08:34

Семен Новопрудский о том, как прогресс зависит от первобытных чувств

С монитора только что включенного бездушного компьютера в мои заспанные глаза утром бросается заголовок: «Через 10 лет роботы лишат работы половину россиян». Что за черт? Теоретически этот текст тоже мог бы написать робот. Но нет. Пока нет. Роботы не лишат людей работы, пока этого не захотят сами люди.

Итак, разберемся, откуда взялся такой алармистский заголовок? Из вольной трактовки исследования Лаборатории исследования проблем предпринимательства Института прикладных экономических исследований РАНХиГС. Там подсчитали, что к 2030 году компетенции 45,5% работников (этот процент журналисты и округлили лихо сразу до «половины») в России станут неактуальны. Поэтому людям придется либо уйти с рынка труда, либо переобучаться. По оценкам авторов, «рискам цифровизации и автоматизации» будут подвержены 20,1 млн человек. А вероятным решением проблемы может стать введение налога на роботов (собранные средства можно направить на социальную помощь) или переход на четырехдневную рабочую неделю.

…Но главные проблемы на пути грядущего неотвратимого нашествия роботов, которые сделают нашу жизнь ужасно комфортной, ужасно удобной, ужасно прекрасной — не технологические и не финансовые. Главные проблемы — сугубо человеческие. Психологические. Психические даже. Мы должны понять и принять роботов, прежде чем они освободят нас от исполнения практически всех обязанностей, включая, возможно, и супружеские. Мы должны ДОВЕРЯТЬ им.

…Человеческое общество все равно основано и будет основано на любви, доверии и сострадании, а не на биохакинге, майнинге и блокчейне…:

 

https://www.gazeta.ru/comments/column/novoprudsky/12644425.shtml

14.01.2020 14:51 Юлия Воробьева

Созданы первые роботы исключительно из живых клеток

 

Инженеры создали немало роботов, имитирующих самых разнообразных живых существ. Но какими возможностями ни обладали бы эти устройства, вдохнуть в них жизнь невозможно.

Похоже, теперь эта грань начинает стираться.

Учёные из США создали из живых клеток "существо" с программируемым поведением.

Это создание получило название ксенобот: по наименованию вида лягушек Xenopus laevis (гладкая шпорцевая лягушка), у которых были позаимствованы клетки.

"Это новые живые машины. Они не являются ни традиционными роботами, ни каким-либо известным видом животных. Это новый класс: живой программируемый организм", – поясняет ведущий исследователь проекта профессор Джошуа Бонгард (Joshua Bongard) из Университета Вермонта.

Ксеноботы были спроектированы с использованием кластера суперкомпьютеров Deep Green. Учитывая биофизику клеток и заданные условия (например, возможность движения робота вперёд), специальный "эволюционный" алгоритм создал тысячи возможных конфигураций.

Затем симуляции помогли определить, какие конфигурации лучше всего подходят для решения поставленной задачи. То есть варианты прошли виртуальный естественный отбор.

(…) Важно отметить, что эти уникальные живые системы могут залечивать сами себя. Учёные проверили это, разрезав некоторые из них практически пополам. Однако ксеноботы восстановили первоначальную структуру.

Это свойство даёт живым машинам важное преимущество перед обычными. Ведь вряд ли робот или любое другое устройство, скажем, ноутбук, восстановят форму и функции, если разрубить их пополам.

Также авторы уточняют, что ксеноботы биосовместимы и абсолютно безопасны с точки зрения медицинского применения. Выполнив работу, они становятся безвредными мёртвыми клетками, которые полностью биоразлагаемы. Это означает, что им можно доверить адресную доставку лекарств в организме пациента.

Кстати, для этих целей подойдут версии ксеноботов с отверстием в центре, куда можно поместить препарат.

Команда намерена и дальше изучать возможности живых роботов и управления ими.

Специалисты признают: наверняка многие опасаются, что однажды такие формы жизни могут выйти из-под контроля. Особенно опасно было бы наделить их способностью размножаться (нынешние ксеноботы этого не умеют).

Собственно, ни одна живая система не может быть полностью контролируемой. Да и машины, наделённые умом и сообразительностью, вполне могут (теоретически) повести себя непредсказуемо.

Ну а живые роботы – и вовсе новые для науки создания, работать с которыми придётся с большой осторожностью. А по мере развития этой технологии экспертам, вероятно, придётся разработать нормативы, регулирующие исследования с точки зрения безопасности и этики, чтобы дело не дошло до создания биооружия или существ, размышляющих, твари они дрожащие или право имеют.

Статья по итогам новой работы представлена в журнале PNAS. Кроме того, о создании ксеноботов авторы подробно рассказали на веб-сервисе Github, чтобы их коллеги могли использовать и совершенствовать описанный подход в будущих работах.

 

Кстати, ранее "Вести.Наука" (nauka.vesti.ru) рассказывали о создании искусственных клеток, способных "общаться" друг с другом, и синтетических организмов, которые прольют свет на ход эволюции. Также мы писали о роботах с настоящей нервной и мышечной тканью и о том, как учёные собрали живые и искусственные клетки в единую систему и настроили её на производство определённых веществ.

 

24 октября 2021

Линзы вместо телефона и телепортация: как изменится мир технологий к 2030 году

Шесть технотрендов, которые войдут в обиход в ближайшие 10 лет

Валерия Бунина

В современном мире технологии развиваются настолько быстро, что к 2030 году мир может измениться до неузнаваемости, но некоторые тенденции можно проследить уже сейчас.

Покупки в прямом эфире…

Человекоподобные роботы…

…Через 10 лет большинство вещей и услуг будут предоставляться только по подписке. При этом люди не будут даже задумываться о владении чем-то.

…В будущем смартфоны смогут полностью изменять свой внешний вид, отмечает портал Forbes.

Телепортация возможна

Генеральный директор Facebook Марк Цукерберг рассказал изданию The Information, как в 2030 году люди будут телепортироваться при помощи VR- и AR-технологий.

«Просто представьте, вместо того, чтобы звонить кому-то по видеосвязи, или тратить время на поездку, вы просто щелкаете пальцами и «телепортируетесь». И вот вы сидите в гостиной своего друга, а он на своем диване, и всем кажется, что вы вдвоем в одном месте», — привел пример Цукерберг.

Золотое время ИИ

В будущем ИИ станет более универсальным и сможет решать разнообразные задачи, став основой многих процессов, считает заместитель директора по исследованиям и разработкам ABBYY Татьяна Даниэлян….:

https://www.gazeta.ru/tech/2021/10/24/14122441/tech_2030.shtml

 23 октября 2021

Названы главные технологии будущего

Специалисты Garnter предсказали основные технологические инициативы 2022 года. Об этом сообщает издание Venture Beat.

Развитие технического прогресса, по мнению аналитиков организации, будет тесно связано с развитием искусственного интеллекта. Первое место в списке технологических тенденций занимает генеративный искусственный интеллект (GAI), который отличается от базового ИИ более глубоким взаимодействием с машинным обучением. Данной подвид искусственного интеллекта будет использоваться в разработке программного обеспечения, создании лекарств и целевом маркетинге. По оценке Garnter, сейчас GAI генерирует менее одного процента данных, однако к 2025 году этот показатель может вырасти до 10 процентов.

Следующей главной инициативой будущего 2022 года специалисты назвали автономные системы, которые могут обучаться и адаптироваться к среде. «Благодаря динамическому изменению собственных алгоритмов автономные системы могут приспосабливаться к уникальным процессам и процедурам», — отметили авторы.

Также аналитики считают, что уже в следующем году будет востребован интеллект принятия решений (DI). Авторы называют DI новым способом, позволяющим организациям извлекать выгоду из быстро меняющихся данных и сред.

«Ключом к реализации инициатив окажется разработка ИИ, который будет стремиться преодолеть множество интеграционных и организационных проблем», — подытожили специалисты.

https://lenta.ru/news/2021/10/23/future/

16.07.2019 17:44 Ксения Васильева

В будущем вместо людей к врачу будут ходить аватары

 

Каждый человек неповторим. И речь идёт не только о музыкальных пристрастиях, любимых кинофильмах и книгах, еде или, например, спорте. Каждый из нас уникален и в проявлениях болезни. В зависимости от возраста, пола, образа жизни и генетики люди очень по-разному переносят одни и те же заболевания и не одинаково реагируют на, казалось бы, одну и ту же терапию.

Гибкий индивидуальный подход к лечению призвана развить новая разработка швейцарских специалистов. Это своего рода медицинский цифровой аватар-двойник пациента, по сути являющийся компьютерной моделью человека.

Такой аватар будет получать и обрабатывать данные о состоянии здоровья своего "хозяина" в реальном времени и поможет доктору разработать оптимальную для данного пациента программу лечения.

Планируется, что взаимодействие человека и его цифрового двойника будет происходить следующим образом: пациенту с помощью "умных" волокон и мембран будут вводить необходимые лекарства (например, обезболивающие или инсулин) прямо через кожу. При этом специальные датчики, закреплённые на теле, будут "считывать" все физиологические параметры и реакции организма прямо во время введения препаратов.

Основываясь на полученных данных, цифровой близнец сможет не только рассчитать оптимальную дозировку лекарства, но и предсказать эффективность лечения.

Исследователи из Швейцарской федеральной лаборатории материаловедения и технологий (Empa) уже разрабатывают цифровую "кожу" близнеца, которая позволит оптимально лечить больных с диабетом и хронической болью….

Ранее авторы "Вести.Наука" (nauka.vesti.ru) писали о роботе, способном улучшить диагностику заболеваний, о компьютерном алгоритме для создания персонализированных лекарств, медицинских 3D-моделях, спасающих жизни, и о первой компьютерной модели живого организма.

 https://nauka.vesti.ru/article/1219035

Искусственный разум и новая эра человечества

 Генри Киссинджер, Эрик Шмидт, Дэниел Хаттенлокер

Зачем читать

• понять, как работает машинное обучение;

• узнать, как будет выглядеть будущее, в котором люди сотрудничают с разумными машинами;

• подготовиться к потенциальным опасностям, которые могут возникнуть из-за неправильного использования ИИ;

• понять, как трансформируется безопасность и мировой порядок.

Вы узнаете

• какие социальные, политические, философские и этические проблемы возникнут перед человечеством в связи с распространением ИИ;

• как ИИ будет влиять на международные отношения и развитие оборонной отрасли;

• как будет выглядеть война с использованием ИИ;

• чем поколение «ИИ-аборигенов» будет отличаться от современных людей.

https://alpinabook.ru/catalog/book-iskusstvennyy-razum-i-novaya-era-chelovechestva/

Сверхразумный искусственный интеллект и наше будущее : https://www.youtube.com/watch?v=BO2PT_Bd6Wg 

Facebook заплатит до миллиарда долларов за нейроинтерфейсы CTRL-Labs

 НИКОЛАЙ БЕЛКИН 24.09.2019 09:0461

Компания Facebook объявила о покупке стартапа CTRL-Labs, его ключевая разработка — браслет, преобразующий мысли пользователя в команды для виртуального аватара. Возможная сумма сделки, о которой пишет со ссылкой на источники Bloomberg, составит от 500 млн до миллиарда долларов.

За четыре года существования CTRL-Labs привлёк десятки миллионов долларов венчурных инвестиций, при этом значительная доля акций оставалась у основателей. Над технологиями преобразования мыслей в цифровые команды в компании работают десятки сотрудников.

Разработанный CTRL-Labs браслет измеряет нервную активность на запястье, чтобы определить, о каких движениях думает пользователь (он при этом может оставаться неподвижным). Сигналы нервной системы считываются и преобразуются в команды для отображаемого на экране объекта.

Подобная технология, пишет издание, может в будущем стать ключевой для очков дополненной реальности, которыми пользователь будет управлять (в том числе вводить текст и выбирать пункты меню) не при помощи физических контроллеров, а силой мысли. Команда CTRL-Labs присоединится к подразделению Facebook Reality Labs…:

https://hitech.vesti.ru/article/1231650/

 

NoonPost : надвигается опасность. Что, если кто-то проникнет в наш мозг и украдет наши идеи?

04.10.2020

Тах ар-Рави

Между воображением и амбициями

Илон Маск неоднократно выражал убежденность, что разработка надежного искусственного интеллекта представляет собой одну из главных угроз существованию человечества. Бизнесмен предупреждает, что в течение следующих десятилетий человечество может настолько отстать от искусственного интеллекта, что машины будут оценивать людей так же, как люди в настоящее время оценивают домашних животных.

В 2016 году американский миллиардер заявил о намерении подключить человека к компьютеру с помощью чипа, имплантированного в мозг. С этой целью он основал компанию Neuralink и начал работать над так называемым BRAIN COMPUTER INTERFACE, или сокращенно BCI….

Как работает BRAIN COMPUTER INTERFACE?

Большинству из нас ничего не известно о технологиях нейроинтерфейса, предназначенных для подключения человеческого мозга к компьютеру. На самом деле это очень сложный механизм, и процесс осуществляется в несколько этапов:

Обнаружение сигнала. На этом этапе необходимо использовать устройство для измерения электрической активности мозга, чтобы обнаружить в нем конкретные сигналы.

Обработка сигнала. Следует отделить сигнал от шума. Например, помехой могут стать движение глаз, глотание слюны и любое другое действие.

Преобразование сигнала. На данном этапе необходимо усиление сигналов до определенного уровня, на котором устройства смогут с ним работать.

Кодирование сигнала. Последний этап предназначен для кодирования сигнала и преобразования его в импульсы или числа, понятные компьютеру.

Чип будет соединен с мозгом путем имплантации с использованием обычных нейрохирургических методов, но выполнять такие операции будет специально разработанный с этой целью робот.

Как говорится в статье Neuralink, опубликованной на веб-сайте компании: «Мы создали робота-нейрохирурга, способного имплантировать 192 электрода в минуту. Каждый электрод нужно вживлять в мозг отдельно с очень высокой точностью, чтобы избежать повреждения кровеносных сосудов и определенных зон мозга».

Предполагаемая область применения BRAIN COMPUTER INTERFACE

Согласно публикациям Маска в его аккаунте в Твиттере или заявлениям Фейсбука, посвященным исследованиям компании в этой области, новые технологии будут иметь широкое применение, хотя имеющиеся достижения уже заслуживают похвалы и внушают оптимизм в отношении результатов будущих исследований.

Один из примеров применения BCI — это подключение к нему автомобилей, что позволит предотвращать дорожно-транспортные происшествия. Это серьезный прорыв, если учесть, что автомобильные аварии являются одной из самых распространенных причин смертей в мире.

Как сообщила недавно компания Nissan, в настоящее время ее сотрудники проводят исследования с целью разработки системы управления автомобилем, которая поддерживает технологию нейроинтерфейса и позволит автомобилю замедлять скорость или вращать руль намного быстрее, чем это способен сделать человек. Тем временем компания Фейсбук разработала технологию, позволяющую преобразовывать мысли в предложения. Новые программы смогут записывать 100 слов в минуту, читая наши мысли.

Помимо прочего, текущие исследования в области BCI направлены на восстановление поврежденного зрения. Электроды имплантируются непосредственно в серое вещество мозга во время хирургической операции, которая преобразует сигналы, полученные через небольшую линзу, в изображения, понятные нашему мозгу.

Кроме того, по словам Маска, идет работа в области протезирования. Новые технологии будут использоваться для восстановления подвижности парализованных людей или создания устройств, помогающих им двигаться с помощью мыслей.

Также технологии BCI могут помочь людям, страдающим от эпилепсии и депрессии. Они будут мгновенно посылать электрические импульсы в области мозга, ответственные за конкретные симптомы этих заболеваний.

Опасения в отношении взлома нейроинтерфейсов

До того, как сигналы достигнут протезов и тела человека, система искусственного интеллекта обрабатывает данные электрической активности мозга с помощью электроэнцефалограммы (ЭЭГ).

В этой связи у экспертов возникают опасения по поводу незаконного использования этих данных или разработки алгоритмов, дающих неверные результаты. Например, некоторые сигналы могут быть неправильно интерпретированы и в конечном итоге привести к ошибочным результатам.

Что касается конфиденциальности получаемых данных и кибербезопасности, то устройства для электроэнцефалограммы могут также отслеживать эмоциональные и когнитивные реакции пациента на основе определенных маркеров. Эти маркеры позволяют оператору ЭЭГ получать информацию о чувствах пациента в отношении деликатных тем и идей — сексуальной активности, политических предпочтений и личных отношений. Другими словами, они дают операторам ЭЭГ возможность лучше понимать предпочтения пациента.

Пациенты также могут не знать, что их личная информация может использоваться алгоритмами прогнозирования некоторых компаний. Последние ведут сбор конфиденциальных данных в личных целях и могут продать их третьей стороне без согласия клиентов.

Уязвим ли наш разум для проникновения?

Недавно была опубликована статья, авторы которой предупреждают, что в чипы можно проникнуть, и это позволит преступникам красть идеи и воспоминания. В интервью Zdnet эксперты пояснили: «Киберпреступники могут получить доступ к мозгу и нейроинтерфейсам, стирать наши навыки, проникать в мысли и воспоминания. Эти системы подвержены взлому, как и любые другие».

Чтобы технология была более безопасной, системы должны гарантировать, что ни одно постороннее лицо не может вносить изменения в их функции. Это подразумевает использование протоколов безопасности, аналогичных тем, что используются в смартфонах, например, антивирусных программ.

«Чип может дать возможность хакерам проникать в мысли или воспоминания политических и военных лиц. Ими в личных целях могут воспользоваться также любые другие преступники», — уверен Джо Бест из Zdnet. — Кража такого типа данных не похожа на все, что мы знали раньше«.

Саситхарана Баласубраманиама (Sasitharan Balasubramaniam), директора по исследованиям группы программного обеспечения и систем связи (TSSG) Уотерфордского технологического института, интересует ответ на следующие вопросы: «Какой урон нанесут подобные кибератаки мозгу, сотрут ли они наши воспоминания или лишат каких-то навыков? Ограничатся ли кибератаки внедрением новой информации в наш мозг или запустят деструктивные процессы в нейронах, что приведет к перестройке мозга и негативно скажется на мыслительных процессах?»

Кроме того, авторы упоминают, как именно преступники могут работать с чипами, если они попадут в их руки.

Так, хакеры могут перехватывать данные, которые передаются от BCI к мозгу, что позволяет им собирать конфиденциальную информацию для доступа в электронную почту и другие системы.

Современные механизмы кибератак имеют два главных ограничения. Во-первых, они требуют ряда конкретных образцов ЭЭГ для создания модели для будущих атак. Во-вторых, для более эффективного выполнения атаки злоумышленник должен знать точное время запуска ЭЭГ. Если он успешно преодолеет эти препятствия, результаты его работы могут оказаться намного лучше.

Всем этим могут воспользоваться злоумышленники, продающие личные данные. Кроме того, используя эти лазейки, системе можно отдать приказы совершить самоубийство и различные преступления, поскольку злоумышленники всегда пытаются разработать новые способы обхода мер безопасности. Как следствие, ученым важно продолжать выявлять слабые места системы и создавать новые механизмы для обеспечения безопасности.

https://inosmi.ru/science/20201004/248214479.html   

«Квантовое превосходство: революция в вычислениях, которая изменит всё»

Quantum Supremacy: How the Quantum Computer Revolution Will Change Everything 

Митио Каку (Michio Kaku)

 Pассказывает о невероятных перспективах генной терапии неизлечимых болезней, которые откроются с внедрением квантовых компьютеров.

Митио Каку рассматривает феномен квантовых компьютеров, способных решать задачи, с которыми классические вычислительные системы до сих пор не в состоянии справиться. Развитие квантовых компьютеров может привести к революционным открытиям в криптографии, медицине, сфере искусственного интеллекта, космических исследованиях и многих других областях…: https://www.chitai-gorod.ru/product/kvantovoe-prevoshodstvo-revolyuciya-v-vychisleniyah-kotoraya-izmenit-vse-3050322  

 Boston experimented with using generative AI for governing. It went surprisingly well

BY SANTIAGO GARCES AND STEPHEN GOLDSMITH

 The recent Biden White House Executive Order on AI  (FACT SHEET: President Biden Issues Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)

addresses important questions. If it’s not implemented in a dynamic and flexible way, however, it runs the risk of impeding the kinds of dramatic improvements in both government and community participation that generative AI stands to offer.

Current bureaucratic procedures, developed 150 years ago, need reform, and generative AI presents a unique opportunity to do just that. As two lifelong public servants, we believe that the risk of delaying reform is just as great as the risk of negative impacts.

Anxiety around generative AI, which has been spilling across sectors from screenwriting to university education, is understandable. Too often, though, the debate is framed only around how the tools will disrupt us, not how these they might reform systems that have been calcified for too long in regressive and inefficient patterns.

OpenAI’s ChatGPT and its competitors are not yet part of the government reform movement, but they should be. Most recent attempts to reinvent government have centered around elevating good people within bad systems, with the hope that this will chip away at the fossilized bad practices.

The level of transformative change now will depend on visionary political leaders willing to work through the tangle of outdated procedures, inequitable services, hierarchical practices, and siloed agency verticals that hold back advances in responsive government.

New AI tools offer the most hope ever for creating a broadly reformed, citizen-oriented governance. The reforms we propose do not demand reorganization of municipal departments; rather, they require examining the fundamental government operating systems and using generative AI to empower employees to look across agencies for solutions, analyze problems, calculate risk, and respond in record time. 

What makes generative AI’s potential so great is its ability to fundamentally change the operations of government. 

Bureaucracies rely on paper and routines. The red tape of bureaucracy has been strangling employees and constituents alike. Employees, denied the ability to quickly examine underlying problems or risks, resort to slow-moving approval processes despite knowing, through frontline experience, how systems could be optimized. And the big machine of bureaucracy, unable or unwilling to identify the cause of a prospective problem, resorts to reaction rather than preemption. 

Finding patterns of any sort, in everything from crime to waste, fraud to abuse, occurs infrequently and often involves legions of inspectors. Regulators take months to painstakingly look through compliance forms, unable to process a request based on its own distinctive characteristics. Field workers equipped with AI could quickly access the information they need to make a judgment about the cause of a problem or offer a solution to help residents seeking assistance. These new technologies allow workers to quickly review massive amounts of data that are already in city government and find patterns, make predictions, and identify norms in response to well framed inquiries. 

Together, we have overseen advancing technology innovation in five cities and worked with chief data officers from 20 other municipalities toward the same goals, and we see the possible advances of generative AI as having the most potential. For example, Boston asked OpenAI to “suggest interesting analyses” after we uploaded 311 data. In response, it suggested two things: time series analysis by case time, and a comparative analysis by neighborhood. This meant that city officials spent less time navigating the mechanics of computing an analysis, and had more time to dive into the patterns of discrepancy in service. The tools make graphs, maps, and other visualizations with a simple prompt. With lower barriers to analyze data, our city officials can formulate more hypotheses and challenge assumptions, resulting in better decisions.

Not all city officials have the engineering and web development experience needed to run these tests and code. But this experiment shows that other city employees, without any STEM background, could, with just a bit of training, utilize these generative AI tools to supplement their work.

To make this possible, more authority would need to be granted to frontline workers who too often have their hands tied with red tape. Therefore, we encourage government leaders to allow workers more discretion to solve problems, identify risks, and check data. This is not inconsistent with accountability; rather, supervisors can utilize these same generative AI tools, to identify patterns or outliers—say, where race is inappropriately playing a part in decision-making, or where program effectiveness drops off (and why). These new tools will more quickly provide an indication as to which interventions are making a difference, or precisely where a historic barrier is continuing to harm an already marginalized community.  

Civic groups will be able to hold government accountable in new ways, too. This is where the linguistic power of large language models really shines: Public employees and community leaders alike can request that tools create visual process maps, build checklists based on a description of a project, or monitor progress compliance. Imagine if people who have a deep understanding of a city—its operations, neighborhoods, history, and hopes for the future—can work toward shared goals, equipped with the most powerful tools of the digital age. Gatekeepers of formerly mysterious processes will lose their stranglehold, and expediters versed in state and local ordinances, codes, and standards, will no longer be necessary to maneuver around things like zoning or permitting processes. 

Numerous challenges would remain. Public workforces would still need better data analysis skills in order to verify whether a tool is following the right steps and producing correct information. City and state officials would need technology partners in the private sector to develop and refine the necessary tools, and these relationships raise challenging questions about privacy, security, and algorithmic bias. 

However, unlike previous government reforms that merely made a dent in the issue of sprawling, outdated government processes, the use of generative AI will, if broadly, correctly, and fairly incorporated, produce the comprehensive changes necessary to bring residents back to the center of local decision-making—and restore trust in official conduct.

https://www.fastcompany.com/90983427/chatgpt-generative-ai-government-reform

 

Artificial intelligence in government

Artificial intelligence (AI) has a range of uses in government. It can be used to further public policy objectives (in areas such as emergency services, health and welfare), as well as assist the public to interact with the government (through the use of virtual assistants, for example). According to the Harvard Business Review, "Applications of artificial intelligence to the public sector are broad and growing, with early experiments taking place around the world."^[1] Hila Mehr from the Ash Center for Democratic Governance and Innovation at Harvard University notes that AI in government is not new, with postal services using machine methods in the late 1990s to recognise handwriting on envelopes to automatically route letters.^[2] The use of AI in government comes with significant benefits, including efficiencies resulting in cost savings (for instance by reducing the number of front office staff), and reducing the opportunities for corruption.^[3] However, it also carries risks.^{[citation needed][further explanation needed]}

Uses of AI in government[edit]

The potential uses of AI in government are wide and varied,^[4] with Deloitte considering that "Cognitive technologies could eventually revolutionize every facet of government operations".^[5] Mehr suggests that six types of government problems are appropriate for AI applications:^[2]

1.    Resource allocation - such as where administrative support is required to complete tasks more quickly.

2.    Large datasets - where these are too large for employees to work efficiently and multiple datasets could be combined to provide greater insights.

3.    Experts shortage - including where basic questions could be answered and niche issues can be learned.

4.    Predictable scenario - historical data makes the situation predictable.

5.    Procedural - repetitive tasks where inputs or outputs have a binary answer.

6.    Diverse data - where data takes a variety of forms (such as visual and linguistic) and needs to be summarised regularly.

Mehr states that "While applications of AI in government work have not kept pace with the rapid expansion of AI in the private sector, the potential use cases in the public sector mirror common applications in the private sector."^[2]

Potential and actual uses of AI in government can be divided into three broad categories: those that contribute to public policy objectives; those that assist public interactions with the government; and other uses.

Contributing to public policy objectives[edit]

There are a range of examples of where AI can contribute to public policy objectives.^[4] These include:

• Receiving benefits at job loss, retirement, bereavement and child birth almost immediately, in an automated way (thus without requiring any actions from citizens at all)^[6]
• Social insurance service provision^[3]
• Classifying emergency calls based on their urgency (like the system used by the Cincinnati Fire Department in the United States^[7])
• Detecting and preventing the spread of diseases^[7]
• Assisting public servants in making welfare payments and immigration decisions^[1]
• Adjudicating bail hearings^[1]
• Triaging health care cases^[1]
• Monitoring social media for public feedback on policies^[8]
• Monitoring social media to identify emergency situations^[8]
• Identifying fraudulent benefits claims^[8]
• Predicting a crime and recommending optimal police presence^[8]
• Predicting traffic congestion and car accidents^[8]
• Anticipating road maintenance requirements^[8]
• Identifying breaches of health regulations^[8]
• Providing personalised education to students^[7]
• Marking exam papers^[1]
• Assisting with defence and national security (see Artificial intelligence § Military and Applications of artificial intelligence § Other fields in which AI methods are implemented respectively).
• Making symptom based health Chatbot AI Vaid for diagnosis^[9]

Assisting public interactions with government[edit]

AI can be used to assist members of the public to interact with government and access government services,^[4] for example by:

• Answering questions using virtual assistants or chatbots (see below)
• Directing requests to the appropriate area within government^[2]
• Filling out forms^[2]
• Assisting with searching documents (e.g. IP Australia's trade mark search^[10])
• Scheduling appointments^[8]

Examples of virtual assistants or chatbots being used by government include the following:

• Launched in February 2016, the Australian Taxation Office has a virtual assistant on its website called "Alex".^[11] As at 30 June 2017, Alex could respond to more than 500 questions, had engaged in 1.5 million conversations and resolved over 81% of enquiries at first contact.^[11]
• Australia's National Disability Insurance Scheme (NDIS) is developing a virtual assistant called "Nadia" which takes the form of an avatar using the voice of actor Cate Blanchett.^[12] Nadia is intended to assist users of the NDIS to navigate the service. Costing some $4.5 million,^[13] the project has been postponed following a number of issues.^[14][15] Nadia was developed using IBM Watson,^[16][12] however, the Australian Government is considering other platforms such as Microsoft Cortana for its further development.^[17]
• The Australian Government's Department of Human Services uses virtual assistants on parts of its website to answer questions and encourage users to stay in the digital channel.^[18] As at December 2018, a virtual assistant called "Sam" could answer general questions about family, job seeker and student payments and related information. The department also introduced an internally-facing virtual assistant called "MelissHR" to make it easier for departmental staff to access human resources information.^[18]
• Estonia is building a virtual assistant which will guide citizens through any interactions they have with the government. Automated and proactive services "push" services to citizens at key events of their lives (including births, bereavements, unemployment, ...). One example is the automated registering of babies when they are born.^[19][20]

Other uses[edit]

Other uses of AI in government include:

• Translation^[2]
• Language interpretation pioneered by the European Commission's Directorate General for Interpretation and Florika Fink-Hooijer.
• Drafting documents^[2]

Potential benefits[edit]

AI offers potential efficiencies and costs savings for the government. For example, Deloitte has estimated that automation could save US Government employees between 96.7 million to 1.2 billion hours a year, resulting in potential savings of between $3.3 billion to $41.1 billion a year.^[5] The Harvard Business Review has stated that while this may lead a government to reduce employee numbers, "Governments could instead choose to invest in the quality of its services. They can re-employ workers' time towards more rewarding work that requires lateral thinking, empathy, and creativity — all things at which humans continue to outperform even the most sophisticated AI program."^[1]

Risks[edit]

Risks associated with the use of AI in government include AI becoming susceptible to bias,^[2] a lack of transparency in how an AI application may make decisions,^[7] and the accountability for any such decisions.^[7]

AI in governance and the economic world might make the market more difficult for companies to keep up with the increases in technology. Large U.S. companies like Apple and Google are able to dominate the market with their latest and most advanced technologies. This gives them an advantage over smaller companies that do not have the means of advancing as far in the digital technology fields with AI.^[21]

See also[edit]

• Government by algorithm
• AI for Good
• Project Cybersyn
• Civic technology
• e-government
• Applications of artificial intelligence
• Lawbot
• Regulation of artificial intelligence
• Existential risk from artificial general intelligence
• Artificial general intelligence
• Singleton (global governance)

https://en.wikipedia.org/wiki/Artificial_intelligence_in_government 

 Organizations should consider the following best practices to establish a robust AI governance framework:

• Manage AI Models. ...
• Data Governance & Security. ...
• Algorithmic Bias Mitigation. ...
• Implement Frameworks. ...
• Explainability & Transparency. ...
• Engage Stakeholders. ...
• Continuous Monitoring.

The Age of Principled AI: Exploring Risk, Responsibility, and Possibility for Federal AI Use

Government and industry experts convene to explore responsible AI in government.

https://www.youtube.com/watch?v=OitVuTW4Vpc