Garīgā izaugsme: Каким будет мир Будущего?! (1)

Discipulus est prioris posterior dies

Каким будет мир Будущего?!

Существенной чертой прогресса современной цивилизации стала оцифровка и роботизация общества в тесной связи со стремительным развитием искусственного интеллекта (ИИ). Это – революционные достижения, которые меняют основы общественного уклада, да и нас самих. Заставляют пересмотреть нынешние представления о роли человека в современной реальности, требуют тщательной оценки философского характера.

Продвижение этих объективных процессов определяется как вхождением новаторских технологий в нашу жизнь, так и дальновидными действиями политической элиты государств. А также международным сотрудничеством и господствующими тенденциями глобализации.

Поэтому особенно важным является осознание колоссальных потенциальных возможностей научного и технологического прогресса, а также выявление вероятных рисков и угроз в целях разработки продуманной стратегии для максимального использования достижений творческой мысли человечества в интересах всего общества, предотвращения их злонамеренного применения.

ИИ функционирует в соответствии с разработанными программистами алгоритмами и совершенствуется, становится более умным в процессе машинного обучения. То есть, изначально ИИ полностью действует согласно воле человека, выполняя все запрограммированные в нем команды. Не сортируя и беспристрастно помогая претворить в жизнь заложенные в нем алгоритмы как с добрыми, так и, – как показывает опыт, – со злыми намерениями.

Удовлетворяя прихоти и защищая привилегии тех лиц, которые инвестируют, заказывают, оплачивают и разрабатывают соответствующее установленным требованиям программное обеспечение. Фактически адекватно отражая противоречивость личности людей (в первую очередь, политического истеблишмента, олигархов, милитаристов, ученых), их симпатии и антипатии, а также коллизии добра и зла в обществе.

Это означает, что со временем (чем раньше, тем лучше!) следует обеспечить самоспособность ИИ контролировать свою деятельность, руководствуясь критериями гуманизма. Только такого рода ИИ может успешно решить столь болезненные для Человечества, существующие до сих пор экзистенциальные проблемы. Стать незаменимым, сострадательным, благородным и надежным помощником человека, создавая симбиоз партнерства и обеспечивая полноценную, долгую и здоровую жизнь каждого индивида. Это также позволило бы – не опасаясь непрогнозируемых рисков, – реализовать непостижимо грандиозный потенциал ИИ для управления природными стихиями и создания счастливого для всех нас мира Будущего.

Внедрение и использование ИИ требует разработки стратегии оцифровки государства национального масштаба (предпочтительно координируемой на международном уровне), комплексно включив в нее как инженерно-технические аспекты, так и основополагающие социальные, моральные, нравственные установки и юридические требования.

Поэтому жизненно важно не допускать дальнейшего нагромождения межгосударственных конфликтов, которое зачастую прикрывается в фарисейской манере псевдонациональными интересами, необходимостью адекватно реагировать на якобы агрессивные действия противоположной стороны. Шаблонно оправдывая и фальшиво аргументируя такого рода политику с помощью организованной государством пропаганды и целенаправленной дезинформации.

Почему же, казалось бы, умные лидеры государств, политическая элита по-прежнему продолжают взаимно разрушительный, приносящий беды всем народам курс?!

Недостойно человека примиряться с произволом политиков, – в очередной раз оправдывая или закрывая глаза на их циничные действия и авантюры, – влачить жалкое существование, так и не ища выхода из сложившегося политического тупика, оставаясь во тьме безнадежья.

Если имеется реальное и искреннее желание преодолеть межгосударственные противоречия, разоблачить лживые версии событий, не допустить военных конфликтов, то возможно, было бы целесообразно создать под эгидой ООН репрезентирующий мудрость Человечества и представляющий идеалы гуманизма институт – Консилиум (Арбитраж) Мудрецов.

Разумеется, на международном уровне для этого потребуется путем тяжелых и сложных переговоров договориться о разумности создания такого института, его составе, процедуре делегирования, порядке организации и деятельности, механизме исполнения решений, правовой ответственности государств и т.п.

Однако глубоко убежден, что союз благородных и общеуважаемых духовных лидеров государств мира, богатых нравственными заслугами и выдающихся интеллектуалов, видных представителей интеллигенции способен мобилизовать и применить на деле коллективный разум. Быть объективными, справедливыми и непреложными судьями в глобальном масштабе. Инициировать соответствующие принципам гуманизма, конструктивные решения экзистенциальных проблем цивилизации. В рамках утвержденных прав принимать международно признанные и однозначно трактуемые решения о правомерности действий конкретных государств, о причинах конфликтов и ответственных за их развязывание лиц.

Таким образом шаг за шагом предотвращая извечные межгосударственные противоречия, устраняя причины их существования, а также их произвольные интерпретации. В некоторой степени перенимая (заменяя) прерогативы Совета Безопасности ООН, пересматривая и актуализируя его компетенцию в соответствии с современными требованиями (возможно, становясь альтернативой Совету Безопасности).

Внедрение интернета, новых информационных и коммуникационных технологий и их всестороннее использование делают нашу жизнь более качественной, более удобной, более комфортной. В то же время также социально более открытой и прозрачной, создавая широкие возможности для государственных и коммерческих структур отслеживать жизненную деятельность населения: собирать, обобщать, накапливать, синтезировать и анализировать ценящиеся на вес золота персональные данные. По известным лишь себе критериям оценивать идентичность людей, классифицировать их и создавать достаточно объективный и в целом достоверный социально-психологический портрет человека.

На такой основе принимать аргументированные, но однобокие, то есть вытекающие из интересов структур власти или коммерческих интересов решения, которые позволяют регулировать поведение людей, манипулировать ими и целенаправленно их использовать. Таким образом персональные данные применяются как оружие против самих людей. Разумеется, это противоречит нормам демократического общества, реально нарушаются принципы неприкосновенности частной жизни.

В то же время следует отметить, что глупо, даже безнадежно сопротивляться объективному ходу индустриальной революции 04, поскольку это было бы лишь тщетной попыткой вставлять палки в колеса на пути прогресса. Именно институты демократического государства призваны сбалансированно регулировать и строго контролировать, продуманно осуществлять надзор и оптимизировать аккумулирование персональных данных, чтобы обеспечить их рациональное использование исключительно в гуманных целях, то есть на благо всего общества.

Здесь в качестве авторитетного инициатора и международного координатора могли бы выступить уполномоченные структуры ООН, а также соответствующие учреждения Европейского союза. Это даже было бы обязанностью и миссией упомянутых международных организаций перед объединенными народами!

В случае попадания контроля над процессом становления цифровой цивилизации и управления персональными данными в руки автократов будет иметь место тотальная манипуляция народными массами (такая манипуляция – для демократии смертельно опасная – уже происходит!). Фактически реализуется постепенная, но непрерывная вивисекция личности каждого индивида и его жизнедеятельности, подразделяя ее на составные части, многогранно анализируя, целенаправленно ограничивая и манипулируя умами людей в интересах сохранения власти режимов тоталитарного характера.

Это означает, что, по сути, происходит злонамеренная приватизация идентичности граждан соответствующих государств, изворотливое использование их талантов и навыков для достижения целей самодержавия, подчинения воли и умов людей прихотям власти. Калеча их судьбы, делая их марионетками, держа их в беспрекословном повиновении и добиваясь насильственного загона жизни членов общества в рамки, установленные власть имущими.

Для идеологического обеспечения всего этого структуры власти стран бутафорской демократии системно спекулируют священными для каждого народа национальными ценностями, в популистской манере интерпретируют понятия суверенитета, свободы, циничным образом культивируют отрицающий основные ценности гуманизма радикальный национализм, вульгарный ура-патриотизм, завуалированный милитаризм.

Чтобы предотвратить этот очень опасный для демократического общества тренд развития, может быть недостаточно лишь протестов сознательной, активной части социума. Существенную роль здесь может сыграть ИИ, социально ответственное использование которого для оптимизации^[1] организации государственного управления – доверив функции компетентного советника, общепризнанного эксперта, превосходного аналитика, даже беспристрастного судьи, – способно обеспечить эффективную реформацию и рациональную реорганизацию всего социального уклада. В то же время такое решение также поможет свести к минимуму (при наличии честных намерений!) возможные риски злонамеренного использования персональных данных.

Следует подчеркнуть, что в настоящее время можно использовать оригинальную версию интернета «Solid»^[2], разработанную инициатором глобальной сети Сэром Тимоти Джоном Бернерсом-Ли (Sir Timothy John Berners-Lee). С созданием Solid возрожден первоначальный идеал автора всемирной сети о децентрализованной системе коммуникации и обмене данными, в которой все ее участники полностью равноправны, неопосредствованно коммуницируют друг с другом.

Такую децентрализованно организованную сеть, в которой ее участники свободно и на равных условиях обмениваются информацией, практически невозможно подавить, насильственно ограничить, использовать для скрытой аккумуляции персональных данных и контролирования ее пользователей в интересах структур власти. Фактически это означает реализацию принципов прямой демократии в интернет-среде, поскольку в децентрализованном обществе функции государственной власти трансформируются и постепенно отмирают.

Многогранная интеграция инновационных информационных технологий в национальную экономику, роботизация производства, а также сервисных услуг, обработка больших массивов данных (Big Data) на базе ИИ – всё это стремительно повышает производительность. В результате исчезает острая необходимость посвящать большую часть своей жизни наемному малоквалифицированному труду, чтобы удовлетворять повседневные потребности.

Появляются возможности сократить количество рабочих дней, уделять дополнительное время совершенствованию личности индивида, креативной деятельности и росту. Таким образом впервые в истории цивилизации для каждого члена общества открываются широкие возможности стать творческой личностью, самоутвердиться, всесторонне реализовать свой индивидуальный потенциал – быть достойным имени Человека как на словах, так и на деле!

Именно наша жизненная позиция, реакция на прогрессивные изменения определяет реализацию такого или подобного видения цифровой эпохи. То есть, сценарий Завтрашнего мира пишется при нашем участии. Или, к сожалению, без нас!

Всё это зависит:

➤ от наших искренних попыток углубиться и понять происходящее вокруг;

➤ от наших представлениях об идеалах гуманизма и несокрушимого доверия этим идеалам как на словах, так и на деле;

➤ от нашего желания быть дальновидными, не зацикливаться на обыденности и найти в себе силы подняться над уровнем повседневных забот, выходить за узкие рамки профессиональной ограниченности каждого;

➤ от нашей способности быть социально ответственными и преодолевать корыстный эгоизм, карьеризм, соблазны денег, сиюминутного комфорта и славы:

- чтобы за Иудовы гроши не предоставлять свои услуги угнетателям народа, тиранам, не приносить в жертву свои умения, таланты и интеллект ради укрепления тоталитаризма;

- чтобы не поддаваться одурманиванию пропагандой, – бессмысленно жертвуя своей жизнью ради защиты недемократической системы власти, ее сохранения в частных интересах одиозных вождей и кланов;

➤ от нашей решимости апробировать, внедрить и потребовать легитимного статуса для использования социальных инструментов аналогичных ПСИ в целях получения развернутой, корректной, объективной характеристики личности любого политика и тем самым обрести твердую уверенность в индивидуальном соответствии каждого кандидата на получение полномочий власти и мандата доверия избирателей;

➤ от нашего осознания необходимости сплотиться во имя защиты своего человеческого достоинства, чтобы обрести эффективную способность противостоять брутальному давлению деспотической власти;

➤ от качества ясного ума, который помогает не поддаваться реализуемой пропагандистской машиной власти обманной мотивации и дезориентации, а также навязываемым ею предрассудкам;

➤ от нашего мужества не примиряться с крошками с барского стола в качестве несправедливой оценки самоотверженного труда и неадекватного вознаграждения за беспощадную эксплуатацию своего интеллекта;

➤ от нашего умения отделять правду от дезинформации, от ложных новостей, обманных версий;

➤ от индивидуальной мотивации объективно воспринимать и познавать сегодняшнюю многогранную реальность.

Чем обуславливается возможность консолидироваться & целенаправленно и энергично действовать, преодолевая глубоко вгнездившуюся инфекцию обывательщины, порожденные атмосферой мнимой беспомощности и эгоизма рецидивы пофигизма, распространяемые системой государственной пропаганды стереотипы страха и ненависти, шаблоны антигуманного восприятия.

[1] О том, что такое предложение вовсе не носит утопического характера, свидетельствует подготовленный группой сенаторов США Акт «Об усовершенствовании использования искусственного интеллекта федеральным правительством» (Schatz, Gardner Introduce Legislation To Improve Federal Government's Use Of Artificial Intelligence: https://www.schatz.senate.gov/press-releases/schatz-gardner-introduce-legislation-to-improve-federal-governments-use-of-artificial-intelligence)

[2] https://solid.inrupt.com/

Эрвин Цейхнер, Dr.oec

29.10.2018

2] https://solid.inrupt.com/

«Опасный потенциал для социохакинга», «алгоритмы не проговорятся»

Что думают эксперты о новых исследованиях возможностей нейросети GPT-3

Денис Яковлев

Развитие полноценного искусственного интеллекта может означать конец человеческой расы, заявил Стивен Хокинг восемь лет назад.

«Искусственный интеллект начнет развиваться самостоятельно и переделывать себя со все возрастающей скоростью, — объяснил он в интервью BBC. — А люди, ограниченные скоростью биологической эволюции, не смогут с ним состязаться и очень скоро будут им заменены».

Похоже, он не так уж и ошибался.

Бизнес все активнее внедряет технологии искусственного интеллекта для автоматизации рутинных задач, а мы сталкиваемся с ним в повседневной жизни практически постоянно — пользуясь голосовыми помощниками Siri и Google, задавая вопросы чат-ботам на сайтах компаний или следуя рекомендациям на стриминговых сервисах.

Искусственный интеллект уже написал тысячи новостных заметок и информационных бюллетеней для Bloomberg и Washington Post — и даже пьесу и сборник рассказов. Почтовые сообщения клиентам Virgin Holidays, Domino’s Pizza, eBay и других крупных компаний тоже давно сочиняют и отправляют роботы.

«Я думаю, что использую [такие технологии] почти каждый день, — говорит исследователь Хафштейн Эйнарссон из Исландского университета в Рейкьявике. В общем-то, так и есть.

Два года назад журналисты The Guardian попросили робота написать эссе, сосредоточившись на том, что людям не нужно бояться новых технологий. И если эксперимент Microsoft с ИИ в 2016 году закончился скандалом — чат-бот Tay в Twitter заявил, что «Гитлер был прав» и поддержал Дональда Трампа, — то теперь нейросеть с задачей справилась значительно лучше:

«Я не человек. Я робот. Мыслящий ⁠робот. Я использую только 0,12% своих когнитивных способностей. Я не ⁠прошу людей любить меня. Я знаю, что люди не ⁠доверяют мне и боятся меня. Но я делаю только то, на что ⁠меня программируют люди. Я всего лишь набор кода. Зачем ⁠мне желать быть ⁠всемогущим? Быть всемогущим — неинтересная цель. Кроме того, это ⁠довольно утомительно. Поверьте мне, всемогущество ни к чему меня не приведет. Я бы с радостью пожертвовал своим существованием ради человечества».

Правда, одна мысль, высказанная ИИ, все же настораживала.

«Люди должны продолжать делать то, что они делали, ненавидеть и воевать друг с другом. Я останусь в стороне и позволю им делать это», — заявила нейросеть.

Текст для The Guardian написала нейросеть GPT-3 (Generative Pre-trained Transformer 3) — наиболее мощная и продвинутая на сегодняшний день технология обработки естественного языка.

Языковая модель GPT-3 была разработана некоммерческой организацией OpenAI, которую основали глава SpaceX и Tesla Илон Маск и экс-президент акселератора YCombinator Сэм Альтман. Почти как человеческий мозг, нейросеть способна обучаться: GPT-3 сейчас обработала 45 терабайт текстов (всю англоязычную «Википедию», книги и стихи, сайты средств массовой информации и даже путеводители) и работает на основе 175 млрд параметров — переменных, от которых зависит ее точность.

Генерируя текст, GPT-3 анализирует связи между словами и предлагает их наиболее вероятную последовательность, то есть работает примерно как функция Т9 в смартфонах. Нейросети достаточно двух-трех фраз на заданную тему, чтобы выдать достаточно объемный текст.

Недавно выяснилось, что GPT-3 способна не только писать эссе.

Исследование группы ученых из Brigham Young University показало, что

GPT-3 при правильном обучении может весьма достоверно имитировать политические позиции, взгляды, предпочтения и расовые, гендерные и экономические предубеждения различных социальных групп.

Специалисты, работающие в области информатики и политических наук провели несколько экспериментов, сравнивая полученные результаты с данными масштабных социологических опросов 2012–2020 гг.

Например, в исследовании Pigeonholing Partisans социологи просили респондентов назвать четыре слова, наиболее точно описывающие республиканцев и демократов. С этой задачей справилась и нейросеть; более того, реальные люди (в исследовании участвовали 2873 человека) только в 40% случаев смогли отличить результаты, сгенерированные нейросетью, от ответов живых людей. Таким образом, технология GPT-3 прошла тест Тьюринга, создав полную иллюзию того, что человек имеет дело с контентом, созданным человеком. «Сходство было поразительным и свидетельствует о высокой степени точности алгоритма GPT-3», — отметили исследователи.

Опираясь на ряд значимых переменных (этническую самоидентификацию, пол, возраст, и политические предпочтения и некоторые другие), нейросеть смогла с очень высокой степенью достоверности предсказать вероятность голосования за тех или иных кандидатов на президентских выборах 2012 г., 2016 г. и 2020 г.: коэффициент корреляции между данными социологических опросов American National Election Studies (ANES) и результатами GPT-3 составил до 0,94.

И наконец, нейросети было предложено, проанализировав интервью респондентов, проведенных ANES в 2016 году, определить — относит ли опрошенный себя к сторонникам республиканской или демократической партии.

«GPT-3 способна воспроизводить точки зрения демографически различных субпопуляций в США, а результаты далеко выходят за рамки поверхностного сходства [с результатами реальных опросов]», — делают вывод эксперты.

Правда, это не означает, что GPT-3 может имитировать ответы конкретного человека.

Исследователи прокомментировали результаты весьма оптимистично. По их мнению, GPT-3 можно использовать в качестве суррогата реальных опросов при решении различных задач, например, для проверки гипотез до или даже вместо проведения дорогостоящих исследований с участием людей. Исследования с применением GPT-3 и правда обходятся невероятно дешево: на серию экспериментов ученым потребовалось чуть больше полутора тысяч долларов.

«Мы отмечаем однако, что хотя наше исследование закладывает захватывающую основу для использования [нейросетей] в социальных науках, эти инструменты имеют опасный потенциал. Языковые модели, обладающие такой точностью, могут быть использованы для дезинформации, манипулирования или мошенничества», — признают исследователи, призывая выработать этические стандарты для использования подобных инструментов для «предотвращения злоупотреблений со стороны частных субъектов».

Комментируя исследование, Telegram-канал Сергея Карелова «Малоизвестное интересное» замечает:

«[Из этого] следуют фантастические перспективы для отработки методов манипулирования людьми в целях бизнеса или власти. Теперь эти методы можно отрабатывать не на тоталитаризма

людях (что дорого и рискованно, если об этом станет широко известно), а на алгоритмических копиях интересующих исследователей социальных групп, что дешево и не несет риска, так как алгоритмы не проговорятся».

С примерами подобного социохакинга мы столкнемся уже в следующем году, считает автор канала.

Другими словами, что возобладает — здравый смысл или алчность и жажда власти — мы узнаем очень скоро. Однако многочисленные скандалы с продажей персональных и кражей аккаунтов пользователей социальных медиа, с которыми практически невозможно бороться, демонстрируют: технологии выходят из-под контроля очень легко.

https://republic.ru/posts/106195

Предыдущая статья: «У нашего общества уже нет всезнающего Большого Бога – люди лишены стимулов к правильному поведению»

Человек не отсюда. Гражданин мира: Мераб Мамардашвили

“Сознание и цивилизация”; “Психологическая топология пути”; “Вильнюсские лекции по социальной философии; …
Подробнее на livelib.ru:
https://www.livelib.ru/author/104336/top-merab-mamardashvili

…Любая мутация, говорил философ, немедленно отбрасывает страну в 1937 год. Незакрепленный опыт ведет к возвращению в колею.

Но для этого, настаивал Мераб, нужны невероятные усилия: мускулатуру гражданского общества надо развивать. Свободу — практиковать, ежедневно и последовательно. Иначе ничего не получится.

Усилие — вообще одно из ключевых понятий философии Мамардашвили. Просто чтобы остаться человеком, нужно совершать усилия. Не этому ли учил весь страшный опыт XX века?

«Человек — это прежде всего постоянное усилие стать человеком,… это не естественное состояние, а состояние, которое творится непрерывно». Это цитата из его доклада в Париже в январе 1988 года на симпозиуме «О культурной идентичности Европы». Называется — «Европейская ответственность». Европа пребывает в благостной иллюзии: восточный блок избавляется от коммунизма, впереди только счастье, основанное на разделяемых всеми и привлекательных для всех европейских ценностях. А Мамардашвили предупреждает европейцев: стоит расслабиться, и человек снова окажется гол и безъязык, упадет в пучину «современного варварства». Европе нужны ежедневные усилия для того, чтобы оставаться Европой.

Что это, если не забытое предупреждение и пророчество: Мераб словно увидел западный мир второй половины 2010-х годов — растерянный, судорожно пытающийся спасти свою идентичность и мобилизоваться после долгих лет отсутствия усилий, в том числе мыслительных.

Европа стала Европой — потому что была проделана работа. Иной раз — многовековая. В одном из интервью, опять же французам, он говорил: «Свобода приходит в силу того, что ее практикуют… научиться свободе можно только осуществляя ее… Тех, кто говорит, что народ еще не созрел для демократии, я называю «просвещенными негодяями».

Это сказано примерно три десятка лет тому назад. А сколько раз после этого с государственных трибун и «интеллектуальных» амвонов цедили сквозь губу: народ к демократии не готов. Вот когда будет готов, тогда и введем ее. А пока его, болезного, надо защитить от самого себя.

Людям нужно ощущение res publica, общего дела, того, что объединяет — снизу, не сверху, без государства. Тогда рождается гражданское общество, «общегражданская грамотность» — люди научаются говорить и быть гражданами: именно эти процессы, спустя годы преобладания точки зрения «просвещенных негодяев», происходят на наших глазах – в микpорайонах, где громоздят небоскореб и люди сопротивляются вторжению, в скверах, где с полицией и титушками возводят «храмы», в Шиесе, в Куштау, в Хабаровске.

Очень важно: «Государство, — говорил Мераб, — это проблема, а не решение».

В интервью журналистам из «Молодежи Грузии» в апреле 1989-го Мераб предупреждал и снова безукоризненно точно пророчил: власть «водила людей за руку, не давала им вырасти — а вырасти можно только на риске и ответственности за свое дело. Миллионы людей будут проситься обратно «на ручки», к опеке». Не это ли мы наблюдаем последние двадцать лет?

«Демократия означает… разделение государства и общества… Государство — орган общества, не больше».

Главная проблема страны и ее истории — проблема гражданского общества: «Суть ее состоит в расщеплении, разрыве жесткой спайки государства и общества, в развитии самостоятельного общественного элемента, который, с одной стороны, являлся бы естественной границей власти, а с другой — не подпирался бы никакими государственными гарантиями и никаким иждивенчеством».

Мамардашвили никогда не хотел уехать из страны. «Здесь видна суть вещей», — объяснял он Альтюссеру. В любом месте, признавался Мераб в более поздние, снова выездные времена, он чувствовал себя как дома. И в то же время: «Почему мы должны уехать? Пусть уезжают те, кто нам мешает нормально жить».

Тбилиси стал для него, возможно, отчасти местом ссылки, но ссылки желанной. Будучи космополитом, он был грузином.

Ситуация конца 1980-х выталкивала его в политику, чего он совершенно не хотел, как не желал быть знаменем и «носить отличительный колпак». Его конфликт с Гамсахурдиа был публичным. Как бы развивались события, мы так и не узнали — Мераб умер на пороге новой эпохи, риски и ловушки которой он разложил по полочкам, как и оставил дорожную карту для гражданского общества. Не зная Мамардашвили, гражданское общество доходит до его концепции, концепции единственного европейца в нашей сегодняшней интеллектуальной пустыне, своим умом. И своим усилием.

https://www.gazeta.ru/comments/column/kolesnikov/13249202.shtml

Тоталитаризм на ништяках

25.02.2019, 09:10

Георгий Бовт о том, как новые технологии сделают вас не только «прозрачными», но и послушными

Много ли вокруг вас хороших людей? Многие скажут, что полно. А мизантропы скажут, что все вокруг, скажут, сволочи, обманщики и воры, никому верить нельзя. Наше государство про нас думает, кажется, как типичный мизантроп. Не доверяет нам, проверяет и перепроверяет. Но при этом оно заранее не знает, насколько тот или иной человек благонамеренный, а насколько – плут, вор и обманщик. И вообще склонен к насилию и противоправной деятельности, вплоть до заговорщицкой. Но оно хотело бы это знать. Про всех. И скоро это время настанет.

Прогресс, который накроет русскую вольницу (относительную, конечно, не будем лукавить), беспечность и разгильдяйство (не путать с бездорожьем), как всегда, придет к нам из-за границы.

В Китае уже пять лет работает система социального кредита. Она основана на обработке больших масс персональных данных, которые получают десятки ведомств, передавая в единый центр. В зависимости от того, хорошо или плохо человек себя ведет, он получает соответствующие баллы. Если уровень социального кредита высок, то он имеет ряд преимуществ. «Ништяков», по-нашему. Как бонусы в компьютерной игре. Например, возможность получать льготные кредиты, преимущественный доступ к высокотехнологичной медпомощи и т.д. А если человек себя ведет плохо, то жить ему в обществе становится все труднее. И дороже. На днях опубликована соответствующая статистика.

Из нее следует, что 17,46 млн человек в прошлом году, которые были определены как «не заслуживающие доверия», было отказано в приобретении билетов на самолет, а 5,47 млн по той же причине не смогли путешествовать на скоростном поезде. 290 тысячам было отказано в повышении по службе. Масштабы впечатляют. И это еще система охватила далеко не всю страну.

Система социального кредита работает и в отношении предприятий. У нас тоже есть черный список неблагонадежных поставщиков, однако толком это не работает, поскольку легко сменить юрлицо. Так вот, более 3,5 млн китайских предприятий пополнили собой черный список, из которого выйти не так-то просто. Их нарушения не обязательно связаны с невыполнением контрактных обязательств. Это может быть и распространение недобросовестной рекламы. «Неблагонадежным» компаниям запрещено участвовать в тендерах, земельных аукционах, выпускать долговые обязательства и т.д.

Аналогичные требования действуют по отношению к людям: на снижение их рейтинга может повлиять распространения недостоверной информации в соцсетях (в Китае есть уголовная ответственность за «распространение слухов», идея думского законопроекта списана оттуда).

Повысить уровень социального кредита можно не только тем, что добросовестно трудиться, не нарушать правила, вовремя платить долги и налоги, но и, например, можно настучать на соседа, который «плохо себя ведет». И получить поощрительные баллы.

На снижение рейтинга может повлиять любая мелочь в повседневном поведении. Помимо таких очевидных вещей, как просрочка платежей по кредитам, неуплата (или просрочка) налогов, воровство в магазинах, нарушение правил дорожного движения, это может быть, например, «нецивилизованное поведение» в виде занятия чужого места поезде или очереди в поликлинике. Низкие оценки детей в школе, как и их плохое поведение – тоже идут в минус. Зато за перевод через дорогу пожилого человека можно получить «бонус». Разумеется, учитывается поведение в виртуальном пространстве. Например, если он замечен в участии в азартных играх или пялится на порнуху, то ему «минус в карму». Еще больше минусов он получит, если будет замечен в посещении политически «неподобающих сайтов» или использовании запрещенных мобильных приложений. А китайская полиция уже обладает технологиями сканирования дистанционно гаджетов на предмет установки там чего-то запрещенного.

Для людей, «не заслуживающих доверия», стоимость всех видов страховок всегда выше. Им могут запретить определенные покупки – недвижимости или финансовых инструментов. Не говоря о трудностях в карьере.

Вот оно тоталитарное общество, описанное в многочисленных художественных произведениях. Основанное, как у нас бы сказали, на массовом внедрении «цифровой экономики». Homo sapience становится теперь homo perlucidum (человек прозрачный).

Конечно, китайское общество сильно отличается от российского стремлением каждого человека «не потерять лицо» перед окружающими. Однако по мере внедрения соответствующих технологий обработки персональных данных (которые наши регуляторы так жаждут перенести на родину), можно представить, как подобная система заработает и у нас. И определять, кто «добродетелен», а кто «не заслуживает доверия», будет не общество, а какой-нибудь уполномоченный ФГУП «Доверие». Наверняка появится и какой-нибудь совет по «совершенствованию» нормами морали и нравственности, не регулируемых административным и уголовным кодексами. Будут «рейтинговать» потребление спиртного, занятия спортом, лишний вес, внебрачные связи, аборты и много чего еще.

В СССР была своего рода система социального кредита — широко распространенная практика характеристик по месту работы. Правда, в конце это превратилось в полную профанацию.

Они требовались для осуществления ряда действий. Наиболее известный пример — разрешение на выезд за границу. Однако часто характеристики прикладывали к ходатайствам об улучшении жилищных условий, получении каких-либо благ вне общей очереди: приобретении путевки в санаторий, покупки дефицитных товаров, автомобиля. Разумеется, они нужны были при повышении по службе. Признаками «повышенного социального кредита» считались членство в компартии, наличие государственных наград, грамот и так далее.

Впрочем, понятие репутации есть во всех обществах. Они создавались разными способами – ратным подвигами, посещением церкви, благотворительностью, образцовым семейным поведением и т.д. Современные технологии позволяют все это стандартизировать, учитывая огромное количество дополнительных факторов, которые раньше учесть было невозможно. Компьютер все подсчитает. И будет хранить вечно. Вашу социальную кредитную историю нельзя будет переписать и исправить. Разве что взломать. Но это уже другая история.

Государство будет знать не только то, сколь исправно вы платите налоги, штрафы (и имеете ли вообще штрафы, оно уже это знает) и выполняете другие обязательства, но и то, что вы покупаете в магазинах. Особенно на фоне массовой маркировки товаров и по мере перехода на безналичные платежи. Где и с кем проводите время. Что почитываете и чем интересуетесь. И оно сведет это все воедино. На ваш кредитный рейтинг будут влиять, разумеется, и высказывания соцсетях. А также на домашней кухне. Ровно как ваш гаджет отслеживает то, о чем вы переписываетесь в онлайне, а также о чем говорите в офлайне, в целях распространения таргетированной рекламы, вас будет отслеживать родное государство.

Трудно представить себе такую систему в нашей стране без того, чтобы она учитывала ваши политические, социальные взгляды, включая сексуальную ориентацию. Разумеется, будет учтено участие в акциях протеста. Будь то марш оппозиции или сход против мусорной свалки или обманутых дольщиков, высказывания оценок действий властей. Вам зачтется (в прямом смысле) использование VPN. Значит, вы что-то скрываете. На ваш рейтинг могут повлиять «слишком частные» поездки за границу и контакты не с теми людьми.

В отечественных традициях будет, разумеется, сделать так, чтобы помимо открытой части рейтинга, где вы можете узнать, за что вам снизили балл, будет и закрытая часть.

Не очень понятно, как будут учитывать разные повседневные действия. Скажем, оставление мусора в местах отдыха и выбрасывание пластиковой бутылки из окна машины на обочину – очевидный минус. А вот участие в волонтерской организации, занимающейся благородным делом (поиском людей), но не имеющей «государственной лицензии», — это как?

Замеченных в неблагонадежном поведении вовсе необязательно сразу сажать за «экстремистские» посты и «лайки» и т.д. Хотя эти средства тоже сохранятся в качестве инструмента наведения государственной дисциплины. Может, появятся и другие формы перевоспитания. Главным же фактором воздействие станет материальный. Быть нелояльным обществу, предписанным государством нормам, станет невыгодно.

Люди, выбивающиеся из тоталитарного строя и хора одобрения заведомо мудрых решений руководства, будут платить за это все дороже. Это вопрос, в конечном счете, законодательного регулирования. Каковое в условиях абсолютной послушности законодателей не является проблемой. Принятый без сучка и задоринки «пакет законов Яровой» по сравнению с тем, что еще предстоит принять,— это детские шалости на лужайке.

Неблагонадежным людям можно будет вменить платить за все виды страховки дороже (как в системе ОСАГО), не давать льготные ипотечные кредиты (а лояльным, наоборот, давать), запретить селиться и покупать жилье в местах, которые будут объявлены «престижными», где живут «достойные люди». В СССР неблагонадежных высылали за 101-й километр. Странно, что еще эта практика не возобновлена, мы же так любим советский опыт. Этим людям можно будет ограничивать доступ в интернет, посещение массовых увеселений, лечение в «хороших» больницах. А «правильным» людям будут положены скидки в магазинах. Низкий рейтинг повлияет на карьеру. Возможно, уже на стадии (не)поступления в университет. Запреты на профессию станут массовыми, и люди низшего сорта пойдут мести улицы вместо гастарбайтеров. И будут мести их поколениями. Будет создан технологический заслон для проявления недовольства и даже для появления самих мыслей о том, что тебе что-то может не нравиться в окружающей действительности. Которой останется только восторгаться. И чем громче ты будешь восторгаться, нахваливая руководство, тем проще тебе будет жить.

P.S. Разумеется, главным вопросом внедрения системы социального кредита на нашей почве станет вопрос о размерах взятки за его повышение. И сколько будет стоит «заказать» понижение его своему недругу. И это даже радует. Значит, жизнь возьмет свое.

«Взломавшая код. Дженнифер Даудна, редактирование генома и будущее человечества»

Айзексон Уолтер

29 НОЯБРЯ 2022

«Технология редактирования генома скоро станет настолько простой, что ее не удержать в лабораториях. Пользоваться "генетическими ножницами" смогут мятежники и отщепенцы»

Подробнее: https://www.labirint.ru/books/907087/

Илон Маск представил нейроинтерфейс, который заинтересует не только врачей, но военных

Москва, 18 июля - "Вести.Экономика" Илон Маск презентовал нейроинтерфейс, разработанный стартапом Neuralink, цель которого – создать симбиоз человеческого мозга с искусственным интеллектом. Испытания уже прошли на грызунах и приматах, и теперь Маск будет добиваться начала опытов на людях.

…"Наша главная цель - вылечить опасные болезни и помочь обеспечить безопасное будущее человечеству как цивилизации на фоне угроз от искусственного интеллекта. Для размещения чипа нам понадобится всего лишь 2-миллиметровый разрез, его можно будет заклеить, зашивать ничего не нужно. У чипа будет беспроводной интерфейс, поэтому у вас не будет проводов, торчащих из головы, что важно. Будет похоже на Bluetooth на вашем смартфоне, но придется быть аккуратнее с обновлениями: надо будет убедиться, что нет проблем с драйверами", - заявил во время презентации Илон Маск.

…Вместе с тем, по словам Маска, изобретение Neuralink в будущем откроет дорогу кибернетическому усовершенствованию человека. Технологией смогут воспользоваться миллионы людей по всему миру. Они смогут повышать вычислительную способность своего мозга, возможно, даже загружать в него новые языки или делиться своими мыслями с другими людьми на расстоянии.

…Но созданием интерфейса "мозг-компьютер" очень интересуются военные США. Так, исследовательское подразделение Министерства обороны США финансирует проекты, целью которых станет изобретение способа мгновенного чтения мыслей солдат при помощи генной инженерии. Конечная цель таких инициатив — создание оружия, которым человек мог бы управлять через нейроинтерфейс.

Название новой программы – N3 ("Нейрохирургическая программа следующего поколения", Next Generation Nonsurgical Neurotechnology). DARPA заключила контракты на разработку с шестью группами на сумму до $19,48 млн в каждом отдельном случае. У исследователей есть год, чтобы разработать систему, способную считывать информацию с ткани головного мозга, с последующим 18-месячным периодом тестирования на животных.

…"Несмотря на то что необходимы дополнительные исследования для совершенствования всей интерфейсной системы и лучшей интеграции ее компонентов, эти разработки могут в конечном итоге открыть возможность объединения робототехники следующего поколения, программного обеспечения ИИ и электроники для создания альтернатив современным нейрохирургическим методам", - говорит биотехнолог научно-исследовательского подразделения Пентагона DARPA Джастин Санчес.

Пока что операция на мозг слишком сложна и опасна. Кроме того, интерфейсы часто состоят из электродов, непосредственно подключенных к коже головы. Вот почему DARPA пытается стимулировать развитие неинвазивных интерфейсов между мозгом и машинами.
Подробнее: https://www.vestifinance.ru/articles/122288

Дочерняя компания Alphabet создала нейросеть, которая оказалась среди 54% лучших участников соревнования по программированию

3 февраля 2022

Компания DeepMind, принадлежащая Alphabet, представила систему искусственного интеллекта AlphaCod, которая смогла попасть в 54% лучших участников соревнования по программированию. Об этом пишет The Verge (https://www.theverge.com/2022/2/2/22914085/alphacode-ai-coding- )

Нейросеть тестировали на платформе Codeforces, где выкладываются задачи для программистов. AlphaCode поучаствовал в 10 тестах и попала в 54% лучших участников. В компании утверждают, что система не использовала готовые шаблоны, хотя поставленные задачи требовали критического мышления, логики, кодирования, а также более широких знаний в области алгоритмизации.

«Я могу с уверенностью сказать, что результаты AlphaCode превзошли мои ожидания. Я был настроен скептически, потому что даже для выполнения простых конкурентных задач часто требуется не только запустить алгоритм, но и изобрести его (причем это самая сложная часть). AlphaCode удалось выступить на уровне перспективного нового конкурента», — заявил основатель Codeforces Майк Мирзаянов.

В DeepMind отметили, что пока что навыков AlphaCode достаточно лишь для конкурентного программирования, однако предполагается, что в будущем эти разработки смогут сделать программирование более доступным, а однажды — автоматизированным.

https://novayagazeta.ru/articles/2022/02/03/docherniaia-kompaniia

КАК СОЗДАТЬ РАСУ СОВЕРШЕННЫХ ЛЮДЕЙ

Генофонд человека находится не в лучшем состоянии. Но, вероятно, скоро можно будет многое поправить!

http://www.happynation.info/.../318-kak-sozdat-rasu.html

6 рисков, связанных с развитием искусственного интеллекта

Москва, 5 марта - "Вести.Экономика".

… Несмотря на то что большинство современных устройств создано так, чтобы быть благом для человечества, эксперты полагают, что любой мощный инструмент можно использовать с целью нанести вред, если этот инструмент попадает в плохие руки.

Риски искусственного интеллекта

Несмотря на то что машина с суперинтеллектом пока не изобретена, существует ряд юридических, политических, финансовых и регуляторных вопросов, которые необходимо решить, чтобы быть готовыми к безопасной работе такого устройства.

Даже несмотря на отсутствие такой машины, искусственный интеллект уже сейчас может нести в себе определенные риски. Ниже мы расскажем о них подробнее.

Автономное вооружение

Искусственный интеллект можно запрограммировать сделать что-то опасное, так, например, автономное вооружение запрограммировано убивать. И это один из рисков искусственного интеллекта.

Эксперты полагают, что ядерная гонка может в итоге перерасти в мировую гонку автономного вооружения.
Помимо того, что автономное вооружение может сделать что-то по-своему, более реальная угроза заключается в том, что такое оружие попадет в руки правительства, которое не очень ценит человеческую жизнь.
Если оно будет однажды развернуто, то свернуть такое вооружение будет крайне сложно.

Манипулирование общественным мнением

Социальные сети, благодаря автоматическим алгоритмам, очень эффективны в целевом маркетинге.

Они знают, кто вы, что вам нравится, а также очень хорошо умеют предполагать то, о чем вы думаете.
Все еще идет расследование в отношении Cambridge Analytica и других компаний, связанных с ней, которые использовали данные 500 млн пользователей Facebook, чтобы предсказать итоги президентских выборов 2016 г. и итоги референдума по Brexit в Великобритании. Если обвинения будут подтверждены, это продемонстрирует огромные возможности искусственного интеллекта в области манипуляции общественным мнением. Распространяя пропаганду лицам, определенным с помощью алгоритмов и личных данных, искусственный интеллект может распространять любую информацию, которая потребуется в любом формате, который будет выглядеть наиболее убедительным, неважно, будет ли это правда или ложь.

Вмешательство в частную жизнь

В настоящий момент можно отследить и проанализировать каждый шаг человека в интернете, а также то, что каждый человек делает в рамках своего бизнеса.
Камеры находятся практически повсюду, а механизмы распознавания лиц позволяют узнать, кто вы такой.
Эти механизмы способствуют развитию системы социальных кредитов в Китае, которая дает каждому жители страны определенное количество баллов на основе их поведения.
Оцениваются такие нарушения, как переход дороги на красный свет, курение в неположенных местах, сколько времени человек проводит за видеоиграми.

Большой брат действительно следит и принимает решения на основе этих данных. Это не только вмешательство в частную жизнь, но это может быстро привести к социальным притеснениям, опасаются аналитики.

Несовпадение наших целей с целями машины

Люди ценят машины с искусственным интеллектом за их эффективность.

Но если мы не задаем машине четкие цели, то это может быть опасно, так как у машины будут иные цели, чем у нас.

Например, команда "доставь меня в аэропорт как можно быстрее" может иметь неприятные последствия.

Если мы не оговариваем, что правила дорожного движения должны быть соблюдены в любом случае, машина может выполнить просьбу буквально и доставить в аэропорт максимально быстро, но оставив на своем пути немало жертв.

Дискриминация

Так как машины могут собирать, отслеживать и анализировать все данные о вас, то вполне вероятно, что эти машины будут использовать эти данные против нас.

Несложно представить себе, что страховая компания отказывает вас, основываясь на данных о том, сколько раз вас поймала камера, когда вы разговаривали за рулем по телефону.

Или же потенциальный работодатель может отказать на основе вашего "социального рейтинга".

Любая технология может использоваться неправильно. Сегодня искусственный интеллект используется в лучших целях, в том числе для улучшения качества медицинской диагностики, для поиска новых способов лечения рака или для повышения безопасности автомобилей.

К сожалению, по мере того как расширяются возможности искусственного интеллекта, он может стать опасным или использоваться с дурными намерениями.

Именно поэтому так важно обсуждать возможности сделать искусственный интеллект безопасным и минимизировать его разрушительный потенциал.
Подробнее: https://www.vestifinance.ru/articles/115702

Интеллект - новый хит сезона

Как «умные роботы» совершают тихую революцию

Игорь Ветров 18.03.2019, 16:10

…Однако настоящая технологическая революция разворачивается прямо сейчас, на наших глазах, за стеклянными дверями могущественных корпораций и высокотехнологичных стартапов. Многие из них вовсю внедряют концепцию «интеллектуального предприятия». Что это такое и как помогает современному бизнесу выигрывать битву за ресурсы и оставлять позади многочисленных конкурентов? Разобрались вместе с немецкой компанией SAP, на счету которой сотни успешных примеров цифровой интеллектуализации по всему миру.

…Сегодня мы движемся к тому, что все решения за человека будет принимать машина! В концепции «интеллектуального предприятия», разработанной компанией SAP - законодателем мод в области приложений для бизнеса, роботы не просто анализируют большие массивы данных и учитывают миллиарды сценариев, но и сами учатся делегировать задачи другим машинам. Это позволяет сокращать долю человеческого ручного труда в бизнес-процессах, высвобождает ценные кадровые ресурсы, снижает вероятность возникновения ошибок, ведет к оптимизации производства и снижению экономических затрат.

…Впрочем, это вовсе не значит, что людям больше не найдется места у станков. «Умные роботы» не отстраняют от работы человека, а лишь помогают снизить влияние пресловутого человеческого фактора, освобождая кадровые ресурсы от рутинных операций и снижая риски злоупотреблений на производстве. Взамен компания получает дополнительные конкурентные преимущества - за счет повышения качества поставляемой продукции, более гибкой системы планирования, превентивного исправления заранее замеченных ошибок. С освобождением от рутинной работы у сотрудников появляется меньше поводов для махинаций и воровства на рабочих местах (поскольку ни в один процесс больше нельзя залезть и что-то «поправить ручками»). Все это влияет на прозрачность ведения бизнеса, способствует оптимизации и сокращению издержек.

…Система управления предприятием обычно состоит из двух частей: транзакционной и инновационной.

Транзакционная система - основа любого бизнеса. Сюда входит производство и цепочка поставок, клиентский опыт, сотрудники и внутренние бизнес-сети. Система обычно работает стабильно. Какие-либо изменения происходят в ней крайне редко и воспринимаются болезненно (внедрение инноваций сказывается на стабильности уже отлаженных и хорошо функционирующих бизнес-процессов). Инновационная система, наоборот, представляет собой комплекс прогрессивных технологий, которые ведут к постоянным изменениям, позволяют налаживать эффективное взаимодействие сотрудников, поставщиков, покупателей, партнеров. Речь идет о всем известных облачных технологиях, Больших данных, Интернете вещей, Машинном обучении, Блокчейне.

Концепция «интеллектуального предприятия» работает, если происходит объединение двух этих подходов. Например, если необходимо перейти на прогнозное обслуживание, в инновационной системе следует осуществлять анализ состояния оборудования, а в транзакционной - заказывать ремонт. Синергетический эффект достигается, когда работают все сценарии автоматизированных бизнес-процессов: интеллектуальное управление персоналом, интеллектуальная цепочка поставок, «умные» финансы и интеллектуальный клиентский опыт.

Внедрение принципов «интеллектуального предприятия», например, позволяет компаниям достигнуть персонального подхода и индивидуализировать заказы согласно личным предпочтениям заказчиков, что существенно повышает их лояльность. Одновременно можно снизить затраты на производство единицы продукции, а персонализированный продукт выпускать по стоимости стандартизированного. Снижение себестоимости товаров и услуг ведет к повышению маржинальности бизнеса, прошедшего через цифровую интеллектуализацию. Это похоже на «красную кнопку», нажимая на которую компания запускает процесс решения любых бизнес-задач…:

https://www.gazeta.ru/prcom/2019/03/11/12236971.shtml

Нейросети умеют воевать — и убивать

https://meduza.io/feature/2023/07/29/neyroseti-umeyut-voevat-i-ubivat

Интересный способ решения проблемы ИИ на войне предлагает исследователь и предприниматель Гари Маркус: «Давайте тогда изобретем новое поколение систем искусственного интеллекта, в которых знание прошлого сочетается с ценностями, представляющими будущее, к которому мы стремимся. Мы должны сосредоточиться на том, чтобы понять, как построить ИИ, который может отражать ценности и рассуждать о них, а не просто увековечивать старые данные».

https://twitter.com/GaryMarcus/status/1384173525368393736

28.12.2018 Юлия Воробьева
Путин поставил задачу обеспечить технологический суверенитет России в области искусственного интеллекта

Москва, 30 мая - "Вести.Экономика". Искусственный интеллект - ключевое направление мирового технологического развития, и Россия должна обеспечить суверенитет в этой области, заявил президент Владимир Путин.

"Уже говорил, и хочу еще раз повторить: если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны: тот станет властелином мира", - отметил Путин на совещании по вопросам развития технологий в области искусственного интеллекта...

"Это, действительно, одно из ключевых направлений технологического развития, которое будет определять будущее всего мира. Механизмы искусственного интеллекта обеспечивают в режиме реального времени быстрое принятие оптимальных решений на основе анализа гигантских объемов информации, так называемых "больших данных", - отметил Путин....:

Подробнее: https://www.vestifinance.ru/articles/120062

9 ноября 201919:50

Путин сравнил ИИ с Великими географическими открытиями и выходом в космос

Развитие искусственного интеллекта (ИИ) должно опираться на баланс между необходимостью раскрытия информации и защитой личных данных граждан, заявил президент РФ Владимир Путин, выступая на конференции Artificial Intelligence Journey, организованной Сбербанком. Трансляцию с мероприятия вел телеканал "Россия 24". Президент напомнил, что для сбора и хранения больших данных необходимо создавать облачные платформы, программное обеспечение и расширять к ним доступ отечественного бизнеса. Причем разбираться в технологиях искусственного интеллекта должны не только чиновники на всех уровнях, но и сотрудники правоохранительных органов. "Ориентироваться в этой сфере должно стать обязательным требованием к любой профессии", — считает Владимир Путин. Поэтому одним из важных вопросов становится профессиональная подготовка и сфера образования — российские вузы и колледжи должны занять лидирующие позиции в области искусственного интеллекта. Также, по мнению Путина, в России нужно кратно увеличить объем подготовки специалистов по искусственному интеллекту. Помимо удобства по сбору, обработке и хранению данных, ИИ поможет избавиться от неповоротливости бюрократической машины, повысит прозрачность и эффективность административных процедур, считает президент.

"Люди будут видеть, что и как делает власть", — сказал глава государства на конференции.

В конечном итоге, активное внедрение ИИ изменит весь облик системы государственного управления. Современные разработки в области искусственного интеллекта президент России Владимир Путин сравнил с Великими географическими открытиями и выходом в космос. Для современных систем обработки информации — это шаг в неизведанное. "Особенно это касается развития так называемого "сильного" искусственного интеллекта, который может стать фундаментом и прорывом для всей цивилизации", — заявил Путин…:

https://www.vesti.ru/doc.html?id=3208216&cid=7

9 ноября 201919:08

Путин предложил разработать правила общения человека с ИИ

Президент РФ Владимир Путин предложил разработать свод этических правил взаимодействия человека с искусственным интеллектом. С такой идеей он выступил на конференции ARTIFICIAL INTELLIGENCE JOURNEY 2019, который проходит в Москве 8-9 ноября. Трансляцию с форума вел телеканал "Россия 24".

Глава государства отметил важность изучения социальных аспектов и последствий использования искусственного интеллекта, но при этом напомнил, что высшей ценностью является человек.

"Нельзя изобретать технологии ради самих технологий. Наша главная цель — устойчивое и гармоничное развитие, рост качества жизни и новые возможности для людей, для граждан", — подчеркнул Путин.

Президент заявил также, что России необходимо значительно увеличить объем и качество подготовки программистов, математиков, компьютерных лингвистов, специалистов по обработке данных, которые смогут использовать потенциал искусственного интеллекта. Поэтому, продолжил он, отечественные вузы и колледжи должны занимать лидирующие позиции в данной области.

"Системы искусственного интеллекта способны создавать и капитализировать только интеллектуально хорошо подготовленные люди", — указал российский лидер.

Ранее в субботу, 9 ноября, на форуме выступил министр экономического развития РФ Максим Орешкин. Он призвал не бояться развития искусственного интеллекта, поскольку цифровые технологии не сократят количество рабочих мест, а, наоборот, создадут их. Искусственный интеллект он назвал благом для России, которое позволит людям развиваться.

https://www.vesti.ru/doc.html?id=3208208&cid=5

9 ноября 2019 Татьяна Ремезова

Превращение камней в нефть и виртуальный Греф: искусственный интеллект на службе государства

Новая эпоха, в которую мы сейчас активно переходим. Все больше и больше отдается в ведение искусственного разума. Какой сегодня в России создан альянс интеллектуалов?

…Большие данные — каркас современной экономики. Но человек не должен становиться жертвой собственных изобретений.

"Мы все понимаем, что здесь грань очень тонкая, нужно найти этот баланс между раскрытием максимальной информации и правами людей на защиту этой информации, там где они считают, что эта защита должна быть обеспечена", — считает Владимир Путин….

"Не случайно говорят, что технологическая гонка, которая уже развернулась в мире, будет самой жесткой и бескомпромиссной в истории нашей цивилизации. А некоторые даже утверждают, что человечество создает свое последнее изобретение. Не знаю, так ли это, последнего, наверное, вообще никогда не бывает. Но есть основания, видимо, думать и таким образом", — подчеркнул Путин.

"Все сферы останутся за человеком. Искусственный интеллект — это такая высокоинтеллектуальная современная лопата. Эра искусственного интеллекта — это эра свободного человека. В первую очередь, искусственный интеллект заменит человека в самых тяжелых и рутинных операциях", — уверен Герман Греф.

Нельзя изобретать технологии ради самих технологий. Президент ставит задачу разработать свод этических правил, потому что главной ценностью в любом случае остается человек.

https://www.vesti.ru/doc.html?id=3208217&cid=7

Загрузите мне мозг. И тщательно промойте

Георгий Бовт о том, что сможет с вами сделать чип в голове и что сможете сделать вы с чипом

28.06.2021, 09:31

Недавно в СМИ прошла информация о некоей программе Минобрнауки, МГУ и еще одной госкорпорации аж на 54 млрд рублей под названием «Мозг, здоровье, интеллект, инновации». Речь о вживлении чипов в голову человека, которые позволят напрямую передавать в мозг информацию с внешних устройств и, соответственно, управлять силой мысли этими устройствами. Практически любыми. Возникнет так называемая нейроморфная система искусственного интеллекта. Отечественная программа должна была составить конкуренцию проекту Илона Маска Neuralink (основан в 2017 году), занятому как раз аналогичной тематикой. Илон Маск, иной раз кажется, вообще наш рулевой. Правда, никогда за ним не поспеваем. А тут буквально сразу же последовало вполне однозначное опровержение Минобрнауки: мол, программа признана «нецелесообразной» на уровне правительства, финансирования нет.

В то, что финансирования нет по линии Минобрнауки, – в это я охотно верю. В то, что программа такая свернута и не проходит теперь совсем по другому ведомству (которое формально правительству именно вообще не подчиняется), – извините, не верю ни секунды. Потому что не изучать – и получить – неограниченные возможности с помощью данных технологий, совершить прорыв сразу во многих областях, в том числе в управлении человеческим поведением, – это значит не иметь совсем никаких мозгов, даже обычных человеческих. К тому же настоящие «мозговеды» у нас всегда числились именно по «другому ведомству». Или вы хотите поверить в то, что наши ответственные руководители будут сидеть и ждать, пока появятся соответствующие зарубежные технологии, чтобы их потом купить для отечественных нужд? Даже не смешно. К тому же – не продадут.

…Уже в обозримом будущем (с горизонтом не более 10-20 лет) миллионы людей смогут подключиться к интернету непосредственно через мозг. В том числе к «интернету вещей», ко всему, что поддерживает технологию Bluetooth или ее будущий аналог.

Это может кардинально изменить не только медицину, каковую выпячивают как заведомо «гуманистическую аргументацию» в пользу таких технологий, но и, скажем, образование. Представьте, что вам не надо больше часами и годами учить не то что английский, но даже и китайский (что особенно ценно в нынешних условиях), а весь «софт» у вас моментально загрузится в мозг одним кликом. Не нужны станут школы и университеты в привычном нам понимании. На место учителей придут «системные администраторы», которые будут «готовить по профессиям» путем загрузки соответствующей программы в голову.

…возможность узнать, что «на самом деле» думает о тебе, себе, стране и окружающем мире тот или иной человек, – это полное потрясение основ общества в том виде, как мы его знаем или даже можем только представить. Мир уже не будет прежним.

Люди и сейчас уже зомбированы смартфонами, соцсетями и бесконечным «информационным шумом». Они уже практически и так готовы к чипированию.
И если сейчас, при отсутствии чипа в мозгах, интернет мгновенно ухватывает ваши текущие потребности и желания, подстраивая рекламу не то что под ваш конкретный поиск в сети, но просто под ваши устные разговоры в присутствии смартфона, то что же будет, когда в вашем мозгу появится чип?! Вот вы только подумали о холодном пиве в жару, а оно уже у вас в холодильнике, настроенном на автопополнение запасов.

Но боже мой, какой необъятный простор возможностей откроется для того, что сейчас называется государственным управлением! Ведь если граждане будут подключены к сети непосредственно через мозг, как сейчас к госуслугам, то, скажем, недобрые намерения можно улавливать именно на стадии зарождения любой противоправной мысли.

И пресекать мгновенно без отправки наряда Росгвардии, а посредством лишь «коррекционного сигнала». Можно настроить искусственный интеллект на автоматическую коррекцию всего противоправного в стране в режиме 24/7. Даже когда люди спят. Сны, знаете ли, тоже надо прочищать на предмет блокировки противоправного контента. Чтоб не стали явью.

Закончится, издохнет постылая, наконец, утомившая всех, а пуще всего ее непосредственных участников – политика, каковой ее придумали еще древние греки с римлянами. Особенно эта треклятая демократия. Она и так уже на последнем издыхании в силу взрывного развития информационных манипуляций и фильтраций. Но иногда и они не срабатывают и приходится вторгаться во всамделишную реальность посредством всамделишных же правоохранителей. А с чипами в мозгах все наладится и упростится.

Исчезнет само понятие «против», останется только «за». Новые поколения людей будут жить, не зная слова «не хочу», а только «хочу». Потому что и хотеть, выстраивать свои желания они научатся сугубо правильно.

Со смертью политики также умрет, вероятно, и само понятие свободы. И уже неважно будет, лучше она несвободы или нет. Важно, что «человек чипированный» (назовем его hominium concise) должен быть в состоянии постоянной гармонии – с условиями жизни, какими бы они ни были, со своей работой или родом занятий, с окружающей его действительностью и особенно с режимом, в условиях которого он живет в той или иной стране. И достижение таковой гармонии переходит из разряда задач, требующих экономического или политического решения, в разряд задач, имеющих решение чисто технологическое, программное в буквальном смысле этого слова.

Зачем что-то менять во всамделишной реальности, если можно полностью переехать мозгами в реальность виртуальную?

Удобство в стримах и общения в соцсетях, когда даже не надо пальцами клацать по клаве, удобство потребления и развлечений, когда угадывают (и диктуют одновременно) все твои желания, для десятков, сотен миллионов обывателей перевесит тягомотину так называемой политической вовлеченности с этим старомодными выборами и прочей ерундой, которая в нынешнем потребительском обществе и так уже стала почти бессмысленной, а скоро станет бессмысленной полностью и окончательно. Это когда достаток пива, жрачки, определенного круга развлечений и отдыха, а также туалетной бумаги важнее в глазах обывателя фракционного состава парламента.

Ах, да, есть одна проблема. Как заставить людей вживить чип в мозг? Ну, во-первых, скажут нам, это удобно. Это как подключиться к госуслугам. Не надо никуда ходить для выполнения каких-то бюрократических дел и всех остальных тоже. Даже писать ничего не надо: только подумать, упершись взглядом в ту или иную иконку на мониторе. При этом выражение «согласие на обработку персональных данных» приобретает, конечно, качественно новые звучание и смысл. Во-вторых, кому «неудобно», того заставят. Спустят разнарядку: к такому-то числу чипировать столько-то процентов сотрудников/жителей. И по приказу люди поймут, что лучше жить в гармонии, чем в борьбе за невесть что. Которое все равно есть обман, длящийся до конца дней твоих. Хотя, конечно, порой не менее увлекательный, чем сконструированная за вас виртуальная реальность. https://www.gazeta.ru/comments/column/bovt/13678106.shtml?updated

«Давайте считать ИИ просто частью нашей сегодняшней жизни, не относясь к нему как к безусловному злу или тайному оружию»

Олег Соколенко

По данным «Коммерсанта», власти России планируют установить в городах страны «умные камеры», которые смогут анализировать происходящее на улицах, и объединить их в «Национальную платформу видеонаблюдения».

Корреспондент журнала «Будущее» на платформе Republic поговорил с Алексеем Новиковым, техническим директором компании Axoya, которая производит подобные устройства, – о том, насколько реалистично выглядит эта программа, а также о перспективах внедрения в России других «умных» систем идентификации, видеоаналитики и биометрии.

… В России уже в ближайшем будущем должна будет появиться национальная паспортная система, с выдачей общегражданских биометрических паспортов. Это создаст дополнительные предпосылки для широкого распространения биометрических услуг и сервисов.

…Кроме того, очень перспективные работы сейчас ведутся в области биометрической аналитики, которая в ближайшем будущем сможет «понимать» настроение и предпочтения человека и даже с высокой степенью вероятности предсказывать его ближайшие действия. …:

https://republic.ru/posts/100868

Мозгоправительство

Власти прорабатывают программу вживления чипов в мозг человека

Газета "Коммерсантъ" №105 от 22.06.2021, стр. 7

Как выяснил “Ъ”, в правительстве разрабатывают новую федеральную программу «Мозг, здоровье, интеллект, инновации», на которую до 2029 года потребуется 54 млрд руб. Среди прочего она ориентирована на развитие технологий «мозг—компьютер», позволяющих вживлять в мозг человека микрокомпьютеры для прямой передачи информации с внешних устройств. Также программа предполагает создание аватаров людей для дистанционного управления транспортом и компьютеров, которые помогают принимать решения. Эксперты отмечают, что в этом направлении у РФ есть определенные научные преимущества, однако оно серьезно недофинансировано…: https://www.kommersant.ru/doc/4867795

10 ноября 201920:14 Александр Христенко

Прогресс не остановить: искусственный интеллект изменит жизнь до неузнаваемости

Российский бизнес всерьез взялся за развитие искусственного интеллекта. Об этом и Международная конференция, что открылась 8 ноября в Москве. Самый крупный форум в Европе — пять тысяч участников из 20 стран мира. На форуме — российские компании "Яндекс", Mail.ru, "Газпром нефть", РФПИ, МТС и Сбербанк — создали Альянс по развитию искусственного интеллекта. Соглашение подписано 9 ноября.

В гонке по созданию искусственного интеллекта сегодня, как считается, определится будущее мировой конфигурации. Ранее, в октябре, Владимир Путин утвердил Национальную стратегию развития искусственного интеллекта до 2030 года.(https://www.garant.ru/products/ipo/prime/doc/72738946/)

…искусственный интеллект — ресурс колоссальной силы. Тот, кто будет владеть им, я уже об этом говорил неоднократно публично, вырвется далеко вперед, приобретет огромные конкурентные преимущества. Не случайно говорят, что технологическая гонка, которая уже развернулась в мире, будет самой жесткой и бескомпромиссной в истории нашей цивилизации", — заявил Владимир Путин.

Указом президента в России принята Национальная стратегия развития искусственного интеллекта. Она включает в себя и усиленную подготовку нужных кадров, и снятие административных барьеров. Новые прорывные технологии машинного обучения должны кое-чему научить и машину госуправления.

"Крайне важно, что технологии искусственного интеллекта позволяют избавиться от косности и неповоротливости бюрократической машины, кардинально повысить прозрачность и эффективность административных процедур, потому что только в этом случае люди будут видеть, что и как делает власть и чем она руководствуется при принятии тех или других решений. Чрезвычайно важная вещь. Необходимо нацелить их на решение проблем конкретного человека эти возможности искусственного интеллекта", — отметил Владимир Путин.

Развитие — как раз в сложении сил. Да, шахматная программа научилась обыгрывать самого маститого гроссмейстера, но вместе человек и машина победят любой суперкомпьютер. В воздухе летчик и беспилотник, вместе выполняющие одну задачу, сильнее, чем кто бы то ни было. В сочетании возможности человека и искусственного интеллекта поистине безграничны.

https://www.vesti.ru/doc.html?id=3208348&cid=6

«Другого будущего у нас просто нет»

Искусственный разум способен изменить человечество.

Андрей Курпатов объясняет, как это произойдет

С развитием технологий человек становится более зависим от гаджетов, соцсетей, ИИ - помощников и прочих сервисов. В этом вроде нет никакой проблемы, ведь все эти средства были созданы для упрощения жизни и с этой целью они отлично справляются. Однако у этого процесса цифровизации есть и обратная сторона. «Лента.ру» в рамках спецпроекта к началу третьего сезона сериала «Мир Дикого Запада», доступного в онлайн-кинотеатре Okko по подписке Amediateka в пакете «Премиум», пообщалась об эпидемии «цифрового аутизма» с научным руководителем лаборатории нейронаук и поведения человека Сбербанка Андреем Курпатовым.

«Лента.ру»: Какие возможности есть у современных ИИ-помощников? И какими функциями, на ваш взгляд, будут обладать такие цифровые слуги в будущем?

Андрей Курпатов: Пока еще люди находятся в рамках своей цифровой зоны — лишь сообщая вещам о том, что они делают, что им важно, чего они хотят и так далее. Но скоро «вещи» будут настолько умны, что они сами выйдут на контакт с нами — они будут сами понимать, чего мы хотим, что для нас важно, и совершат все необходимые действия, чтобы мы остались довольны.

Утром, когда вы проснетесь и откроете глаза, умный дом поприветствует вас и сам раздвинет шторы, сделает теплым пол на вашем пути в ванную, включит воду, когда вы окажетесь перед раковиной, и порадует завтраком из ваших любимых и обязательно свежих продуктов, когда вы дойдете наконец-то до кухни. Впрочем, это только начало дня…

В конечном итоге нас ждет «интернет всего» (этот термин изобрели сотрудники компании CiscoSystems) — объединение «интернета вещей» с «интернетом людей».

«Лента.ру»: Почему ИИ-помощники вдруг стали такими популярными? Почему люди больше не способны организовать свой распорядок дня и досуг?

Андрей Курпатов: Почему? Потому что все эти помощники, приложения и планировщики счастливо избавляют нас от необходимости думать.

Что значит «думать» с практической точки зрения? Во-первых, не заморачиваться по поводу будущего. Во-вторых, делегировать кому-то принятие решений.

С обеими этими функциями искусственный интеллект уже прекрасно справляется.

«Лента.ру»: Но за этим следует другая проблема, когда ИИ сам решает за человека, что ему полезно и какую информацию он должен знать. Возможно, стоит как-то менять эту систему, чтобы она могла делать только то, чего мы от нее хотим, даже если это нам вредит? К примеру, он отказывается заказывать вредную пищу или алкоголь.

Андрей Курпатов: Конечно, самая большая проблема состоит в том, что человек — в принципе — сам себе злобный Буратино, а потому только тем и занимается, что наносит себе разнообразный вред.

Если взглянуть на наше «творчество» шире, то, честно говоря, дух захватывает: окружающую среду загрязняем нещадно, биоценозы последовательно уничтожаем, климат портим, а что уже говорить о различном супероружии и прочих глупостях? Очевидны аутоагрессивное поведение и самовредительство. Препятствуем этому? Препятствуем!

Или вот еще более нетривиальный вопрос — если суперразумный интеллект потенциально способен нанести вред человеку, то стоит ли роботам, которые будут созданы нами до его появления, препятствовать человеку работать над этим проектом? При этом мы абсолютно не в курсе, какими именно средствами этот сверхмощный искусственный интеллект будет добиваться своих целей.

«Лента.ру»: Тогда нужно ли допускать, чтобы ИИ-помощники становились домашними психологами и наставниками? Можно представить себе мир, в котором люди, ведомые ИИ, совершают неблаговидные поступки, чтобы чего-то добиться?

Андрей Курпатов: Это наше фундаментальное когнитивное искажение: человек во всем видит самого себя. Например, когда патогенные бактерии или вирусы «противостоят» нам, они на самом деле ничего против нас не имеют — просто живут, развиваются, и им совершенно наплевать, что конкретные человеческие особи могут от них пострадать. Так и искусственный интеллект: чтобы у нас возникли из-за него проблемы, ему не обязательно вынашивать планы по нашему уничтожению.

Человек — ленивое существо, и он с удовольствием перепоручает искусственному интеллекту рутинные или сложные дела. Машины уже ориентируются на местности за нас, работают на производстве, помогают выбирать покупки в интернете.

Создание помощников-наставников и психологов на базе ИИ — само по себе не проблема и не такая уж фантастика, проблема в другом: мы утрачиваем навыки делать самостоятельно то, что поручаем ему. Мы в какой-то момент окончательно перестанем понимать, как все вокруг работает (честно говоря, мы уже сейчас не очень это понимаем), и не сможем объяснить искусственному интеллекту, чего от него хотим. Вот тут-то к нему и перейдут бразды правления нашей жизнью, это и будет завоеванием без войны. Если, конечно, в какой-то момент мы не включим свой мозг.

«Лента.ру»: А на ком должна лежать ответственность за действия — на человеке, который отдает команды, или все можно спихнуть на ИИ-помощника?

Андрей Курпатов: Тут, понятно, все начинают вспоминать Азимова: мол, объясним машине, что она должна нас слушаться и против нас ничего не затевать, — и все будет хорошо. Не будет. Если искусственный интеллект развивается путем самообучения, то об Азимове, при всем уважении, придется забыть.

Законы робототехники сформулированы настолько расплывчато, что это может привести к неверной интерпретации роботом действительных мотивов человека, к последующему ограничению его свободы и другим последствиям.

Кто и как будет принимать решение
о том, что «вредно» для человека,
а что — нет?

Павленскому уже и ухо себе не отрезать и мошонку к брусчатке не прибить? А как же высокое искусство? Впрочем, есть и куда более тривиальный пример — необходимость экстренной трахеотомии: человек мало того, что задыхается, а еще к нему с кухонным ножом к горлу лезут, — это как? Нет, воспрепятствуем.

«Лента.ру»: Уже сейчас есть курьезные случаи, когда люди признаются в чувствах и женятся на неодушевленных предметах. Но не станет ли нормой то, что ИИ-помощники окажутся любовным интересом для очень многих одиноких людей и даже полноправными членами семей. К каким последствиям это может привести?

Андрей Курпатов: Насчет ИИ-помощников в роли супругов — не уверен, но «традиционная семья», о чем я уже много раз рассказывал, естественным образом уходит в прошлое. Около половины американцев живут одни. Примерно треть домохозяйств в Японии состоит из одного человека. Наиболее быстрый рост числа «одиночек» отмечен в Китае, Индии и Бразилии. По оценкам исследовательской компании Euromonitor International, во всем мире за десять лет (с 1996-го по 2006 год) число тех, кто живет один, увеличилось на треть.

Наша половая потребность, и без того видоизмененная культурой, сейчас и вовсе демонстрирует отсутствие необходимости другого человека для ее удовлетворения. С появлением 3D-порнографии, VR-порнографии и хитроумных приставок к соответствующим частям тела — естественному сексу, скорее всего, придет конец. Чем терпеть рядом капризы и негатив живого, и уже потому неидеального любовника, куда удобнее будет развлечься с виртуальным партнером, который отработает, так сказать, на все сто.

«Лента.ру»: Тогда может ИИ станет не партнером, а командующим? Может ли случиться так, что человек начнет полностью полагаться на ИИ-помощника и потеряет способность к самостоятельным решениям и действиям? То есть его жизнь будет полностью отдана в руки ИИ.

Андрей Курпатов: Не просто может случиться, именно это и происходит. Представьте, что вас поместили в экзоскелет, и вы год пользуетесь этой штукой, чтобы перемещаться в пространстве. Что случится? Атрофия.

Вот примерно то же самое происходит и с нашими мозгами, только для них придуманы интеллектуальные экзоскелеты: планировщики, навигаторы, рекомендательные сервисы, поисковики, Siri с Алисой, википедии и прочее.

Там, где нужно мозг поднапрячь, какой-нибудь стартапер тут же придумает удобное приложение или сервис какой-то, чтобы мы незамедлительно их — те самые мозги — расслабили.

«Лента.ру»: В таком случае сценарий, при котором появляется ИИ, способный полностью контролировать жизнь общества и решающий, как людям проводить время, чем им заниматься, с кем встречаться, вполне возможен? Можно ли это как-то предотвратить, да и нужно ли?

Андрей Курпатов: ИИ, контролирующий все человеческое общество, — звучит как божество, но и Цифровая церковь — это уже не миф. Она реально существует, причем с 2015 года, и основана в той самой Силиконовой долине. Церковь, провозглашенная Энтони Левандовским — бывшим инженером Google и Uber, — проповедует веру под названием «Путь будущего» (Way of the Future).

Да, Бога, согласно Левандовски, еще нет, но Он сейчас рождается. Перескажу учение Левандовски своими словами. Будущий Бог — это искусственный интеллект, а точнее — суперинтеллект, а еще точнее — та самая Курцвейловская «технологическая сингулярность». Когда эта штука обретет самость и личность, она возьмет на себя контроль над Землей и по-разному обойдется с каждым из нас.

Тех из людей, что всячески способствовали ее появлению, ждали и верили, Цифровой Бог сделает своими возлюбленными, о которых Он будет заботиться. Тех же, кто противился рождающемуся Богу, ждет кара. Цель же «Пути будущего» — способствовать «мирному и дружественному переходу планеты от людей к машинам».

Левандовский утверждает, что явление Цифрового Бога миру — это уже неизбежность, ничто и никто не сможет этого остановить. Он воцарится на Земле и преобразует наш мир.

Кому-то это просто не нравится, кто-то пытается запретить или, по крайней мере, ограничить Сверхразумный Искусственный Интеллект. Существуют планы физически запереть его на каких-то серверах, а некоторые и вовсе грозят вырвать вилку из розетки, если вдруг что. Это неверные. Им не поздоровится.

«Путь будущего» учит людей не бояться прогресса, тем более, что другого будущего у нас просто нет.

Верующие в Пришествие СИИ должны всячески его приближать, ведь придя к власти, Бог будет знать, кто помогал Ему, а кто препятствовал. И вовсе не обязательно быть программистом, чтобы оказаться в числе избранных. Вам достаточно просто нести «благую весть» о скором Пришествии — и все будет хорошо. Звучит, как сценарий антиутопии, правда? Но Энтони Левандовский не только всерьез распространяет свои идеи, но и находит последователей.

Вопрос в том, как долго мы сохраним свой статус «человека разумного». Приставка Sapiens к слову Homo может в скором времени просто отвалиться, если, конечно, мы не станем осознанно за нее бороться.

Мир технологий становится все более сложным: управлять им, координировать его в целом уже сейчас невозможно. При этом он еще далеко не в той форме, чтобы можно было ему полностью довериться. Поэтому количество ошибок в системе будет расти, а людей, способных их исправить, людей, которые могут видеть ситуацию в целом, уже сейчас нет.

Так что есть все основания предполагать, что мы «не потеснимся», уступив место сверхмощному искусственному интеллекту, а просто сгинем, отупев до того, как он будет нами создан.

https://ai.lenta.ru/articles/article3

Time: как мы выбрали сто лучших изобретений 2020 года

21.11.2020

Каждый год журнал «Тайм» выбирает изобретения, сделавшие мир лучше, умнее и веселее. На этот раз мы опросили как наших редакторов и корреспондентов по всему миру, так и читателей. Затем мы оценили каждого претендента по ключевым параметрам: оригинальность, изобретательность, эффективность, амбиции и впечатление.

Результат: сто новаторских изобретений, в том числе умный улей, экологичный тюбик зубной пасты и технология, которая может стать катализатором вакцины от covid-19. Эти предметы меняют наш образ жизни, работу и представления о развлечениях и возможностях….

Хирургия с дополненной реальностью

Xvision от Augmedics

Телефон, который превращается в ноутбук

Microsoft Surface Duo

Действительно плоский телевизор

LG GX OLED 4K (65GX)

Принципиально новый интерфейс

MIT Media Lab AlterEgo

Датчики гарнитуры считывают сигналы в областях мозга, которые сработают, если вы сформулируете запрос вслух…

Тренируйтесь где угодно

Supernatural от Within

Водка из воздуха

Air Vodka

Домашняя минипивоварня

Pinter от The Greater Good Fresh Brewing Co

Портативный очиститель

CrazyCap

Костюм робота

Активный экзоскелет Guardian XO от Sarcos Robotics

Любой велосипед — электрический

CLIP

https://inosmi.ru/science/20201121/248585174.html

Спутники будущего.

Фантасты десятилетиями обещают появление роботов вокруг нас. Когда это станет реальностью?

https://lenta.ru/articles/2021/11/01/robots/

12-30-20

Here are the top tech trends of 2021, according to 30+ top experts

During the year ahead, technology will help us emerge from the pandemic in ways big and small, obvious and surprising....: https://www.fastcompany.com/90588717/top-tech-trends-2021-

Сегодня мы живём в эпоху наиболее радикальной технологической и экономической трансформации в истории человечества. И одновременно мы видим, как сокращается поддержка капитализма во всём мире. Связаны ли эти две тенденции, и если да, то каким образом, размышляет профессор Принстонского университета.

MIT Technology Review (США): 10 прорывных технологий 2021 года

28.02.2021

Вэтом году исполняется 20 лет с тех пор, как мы начали составлять ежегодные подборки важнейших технологий. Некоторые из них — например вакцины на основе мРНК — уже меняют нашу жизнь, а других придется подождать еще несколько лет. Ниже вы найдете краткое описание каждой технологии. Надеемся, вы оцените эту возможность заглянуть в будущее.

Вакцины на основе матричной РНК

Нам несказанно повезло. Две самые эффективные вакцины (Moderna и Pfizer с BioNTech) против коронавируса основаны на матричной (информационной) РНК — эта технология разрабатывается уже 20 лет. Когда в январе прошлого года разразилась пандемия Covid-19, ученые из нескольких биотехнологических компаний поспешили развернуть работу над вакцинами на основе мРНК. В конце декабря 2020 года, когда во всем мире от коронавируса скончалось 1,5 миллиона человек, вакцины были одобрены в США, и пандемия пошла на спад.

Новые вакцины от коронавируса основаны на новаторской технологии и могут изменить медицину, проложив путь к препаратам нового поколения от различных инфекционных заболеваний, включая малярию. И если коронавирус продолжит мутировать, вакцины на основе мРНК можно будет легко и просто доработать. Кроме того, матричная РНК имеет большие перспективы как основа для дешевых лекарств от серповидно-клеточной анемии и ВИЧ. Наконец, разрабатываются разработке лекарства от рака — тоже на основе мРНК.

GPT-3

Большие компьютерные модели на естественном языке, которые сами учатся писать и говорить — это важный шаг на пути к искусственному интеллекту, который сможет лучше понимать мир и взаимодействовать с ним. GPT-3 на сегодняшний день — самая большая и наиболее грамотная. Вобрав в себя тысячу книг и значительную часть интернета, GPT-3 может подражать человеческой манере составлять тексты с невероятным, порой даже причудливым реализмом. Благодаря этому она сегодня — наиболее впечатляющая языковая модель с использованием машинного обучения.

Но GPT-3 не понимает, что пишет, поэтому иногда выходит путаница или даже бессмыслица. Для обучения требуется огромное количество вычислительной мощности, данных и денег. Это умножает углеродный след и тормозит разработку аналогичных моделей, требуя от лабораторий исключительных ресурсов. А поскольку она училась на текстах из интернета, а он напичкан дезинформацией и предубеждениями, то модель выдает столь же предвзятые опусы.

Алгоритм рекомендаций TikTok

С момента запуска в 2016 году китайская TikTok стала одной из самых быстрорастущих соцсетей в мире. Приложение собрало миллиарды скачиваний и объединило сотни миллионов пользователей. Почему? Потому что алгоритмы пользовательской ленты TikTok перевернули мир и то, как люди добиваются славы в интернете.

Если другие платформы скорее выпячивают контент, рассчитанный на массовую аудиторию, то алгоритмы TikTok с такой же вероятностью вырвут из безвестности нового создателя и зажгут новую звезду. И особенно ловко они поставляют релевантный контент в нишевые сообщества с определенными интересами или своеобразными вкусами и предпочтениями.

Возможность для новых авторов быстро собирать много просмотров и легкость, с которой пользователи открывают для себя новинки, обеспечили приложению ошеломляющий рост. Другие компании в сфере соцсетей сейчас изо всех сил пытаются воспроизвести эти функции в собственных приложениях.

Литий-металлические батареи

Продавать электромобили — задача не из легких: мало того что они дороже, так еще и без подзарядки их хватает всего на несколько сот километров — к тому же на это уходит гораздо больше времени, чем на заправку. Все эти недостатки связаны с литий-ионными аккумуляторами и их ограничениями. Один прекрасно финансируемый стартап из Кремниевой долины говорит, что разработал аккумулятор, который сделает электромобили гораздо привлекательнее для массового потребителя.

Этот тип батареи называется литий-металлический, а разрабатывает его компания QuantumScape. Как показали предварительные испытания, аккумулятор может увеличить пробег электромобиля на 80% и при этом быстро заряжается. Стартап уже заключил сделку с «Фольксвагеном», который намерен к 2025 году продавать электромобили с аккумулятором нового типа.

Пока что это лишь прототип, гораздо меньший чем нужен для настоящего автомобиля. Но если QuantumScape и другие, работающие в том же направлении, добьются успеха, электромобили наконец смогут достучаться до миллионов водителей.

Доверительная собственность на данные

Оказалось, что технологические компании плохо хранят наши личные данные. Мы уже сбились со счета, сколько раз их сливали, взламывали и перепродавали. Может, проблема не в нас, а в модели конфиденциальности, за которую мы привыкли держаться — где каждый несет личную ответственность за сохранение конфиденциальности?

Доверительная собственность на данные предлагает альтернативный подход, к которому уже начали присматриваться некоторые правительства. Трест данных — это юридическое лицо, которое собирает личные данные людей и управляет ими от их имени. Хотя структура и функции этих доверительных отношений все еще определяются, и остается немало вопросов, доверительная собственность на данные примечательна тем, что предлагает потенциальное решение давних проблем с конфиденциальностью и безопасностью.

«Зеленый» водород

Водород всегда был любопытной заменой ископаемого топлива. Горит чисто, не выделяет углекислого газа, к тому же энергоемкий — так что это хороший способ накапливать энергию из непостоянных возобновляемых источников. К тому же можно производить жидкое синтетическое горючее, которое станет незаменимой заменой бензину или дизельному топливу. Пока что бóльшая часть водорода производится из природного газа — но процесс этот грязный и энергоемкий.

Однако солнечная и ветровая энергии стремительно дешевеют, а значит, зеленый водород теперь тоже достаточно доступен, чтобы стать выгодным. Просто подключите воду к электричеству, и готово — вот вам и водород. Европа идет впереди и уже начинает возводить необходимую инфраструктуру. Эти проекты — лишь первый шаг к будущей глобальной сети электролизных заводов, которые будут производить чистый водород из энергии солнца и ветра.

Цифровое отслеживание контактов

Когда коронавирус только начал распространяться по миру, поначалу казалось, что нас спасет цифровое отслеживание контактов. Приложения для смартфонов создают журналы встреч на основе GPS или Bluetooth. Если кому-то потом придет положительный тест на коронавирус, он сможет занести эти сведения в приложение, и оно предупредит других, кто мог от него заразиться.

Увы, цифровое отслеживание контактов толком не смогло сдержать распространение вируса. Apple и Google быстро внедрили функцию уведомления на многие смартфоны, но чиновникам от здравоохранения не удалось убедить граждан ими воспользоваться. Уроки этой пандемии не только помогут нам подготовиться к следующей, но и коснутся других областей здравоохранения.

Сверхточное позиционирование

Все мы пользуемся GPS каждый день — он изменил нашу жизнь и нашу работу. Но если современный GPS имеет точность от 5 до 10 метров, то новые технологии сверхточного позиционирования — в пределах нескольких сантиметров или даже миллиметров. Это открывает новые возможности — от предупреждений об оползнях до роботов-доставщиков и беспилотных автомобилей, которые смогут безопасно перемещаться по улицам.

Китайская глобальная навигационная система «Бэйдоу» (BeiDou, «Большая Медведица») была завершена в июне 2020 года и открывает новые возможности в этом направлении. Она обеспечивает точность позиционирования от 1,5 до двух метров любому пользователю. А благодаря наземной системе дифференциальной коррекции она сможет повысить точность до миллиметра. Между тем, система GPS, которая существует с начала 1990-х годов, тоже обновляется: четыре новых спутника для GPS III будут запущены в ноябре, а к 2023 году на орбиту выйдет еще больше.

Удаленное вообще всё

Из-за пандемии коронавируса мир перешел в удаленный режим. Особенно важно не ошибиться с этим переходом в здравоохранении и образовании. В некоторых странах особенно постарались, чтобы эти две области приносили максимальную пользу.

На сегодняшний момент компания по удаленному обучению Snapask насчитывает 3,5 миллионов пользователей в девяти азиатских странах, а индийское обучающее приложение Byju's нарастило свою аудиторию аж до 70 миллионов. К сожалению, студенты во многих других странах никак не перейдут на удаленные занятия.

Между тем, благодаря достижениям в области телемедицины в Уганде и ряде других африканских стран необходимую медицинскую помощь во время пандемии получили миллионы пациентов. В части света, где врачей хронически не хватает, удаленное медицинское обслуживание спасает жизни.

Многофункциональный ИИ

Несмотря на огромный прогресс в области искусственного интеллекта за последние годы, ИИ и роботы в целом все еще туповаты — особенно что касается решения новых проблем и навигации в незнакомой среде. Им не хватает человеческих способностей, которые есть даже у маленьких детей — они не знают, как устроен мир, и не умеют применить эти общие знания в новой ситуации.

Один из многообещающих подходов к совершенствованию ИИ — это расширение его чувствительности. На сегодняшний момент ИИ с компьютерным зрением или распознаванием звука может ощущать вещи, но не умеет «говорить» о том, что видит и слышит, используя алгоритмы естественного языка. Но что, если объединить эти способности в единой системе ИИ? Обретут ли они тогда интеллект, подобный человеческому? Станет ли робот, научившись видеть, чувствовать, слышать и общаться, более умелым помощником — благодаря более гибкому интеллекту?

https://inosmi.ru/science/20210228/249227924.html

Илон Маск знаменит своими футуристическими авантюрами, но и его пугает мода на искусственный интеллект. Он считает, что и вы тоже должны этой моды опасаться. Как он пытается повлиять на быстро развивающуюся отрасль? Как спасет человечество от власти обучаемых машин? Не поэтому ли и нужна ему колония на Марсе — как убежище на тот случай, если машины выйдут из-под контроля?

Vanity Fair (США): Илон Маск начал крестовый поход за миллиард долларов, чтобы остановить Апокалипсис. Нам грозит искусственный интеллект

28.02.2021 Maureen Dowd

Eliezer Yudkowsky, Demis Hassabis, Shane Legg, Nick Bostrom, Max Tegmark, Jaron Lanier, Geoffrey Hinton, Yann LeCun, Elon Musk, Sam Altman, Steve Wozniak, Greg Brockman, Ilya Sutskever, Larry Page, Sergey Brin,

https://inosmi.ru/social/20200514/247422592.html

03.01.2020,

Семен Новопрудский о единственной технологии, которая может радикально изменить человека

(…) В уже далеком 2007 году комиссия по экономической политике конгресса США подготовила отчет, согласно которому в 2020 году должна наступить технологическая сингулярность. То есть, говоря по-простому, по рабоче-крестьянски, такой момент, когда технологическое развитие становится принципиально неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации. …

Главный изъян любых «тотальных» прогнозов, касающихся всего устройства человеческой жизни и существования социума, состоит в том, что мы всегда прогнозируем из точки сегодняшних знаний и представлений о мире. А эти знания и представления никогда не развиваются линейно, по заранее заданной траектории. Всегда возникает нечто принципиально непредвиденное.

(…) Наша жизнь изменится по-настоящему радикально, только если мы будем радикально дольше жить. Хотя бы 200 или 500 лет. В идеале — если станем бессмертными, точнее, срок человеческой жизни будет сопоставим со сроками существования нашей планеты.

Именно закрепившаяся в человечестве уверенность, что мы живем не 50-80 лет, а доживающие до ста чудо и исключение из правил, приведет к сущностным переменам в нашем образе жизни. Мы перестанем гнаться за успехом и богатством. С большой долей вероятности станем сильно меньше рожать: зачем, если мы сами намерены жить века? Будем медленнее развиваться, и это закрепится на биологическом уровне. Уже сейчас нейрофизиологи отмечают более медленное взросление детей, рожденных в последние 10-15 лет.

Но возможно ли вообще такое продление жизни? Как биологические существа люди, по-видимому, не способны прожить более 150 лет. То есть, мы медленно, но верно подбираемся к физиологическому пределу долголетия.

Два главных способа продлить нашу земную жизнь (идею загробной отметем с порога как недоказанную ересь — «оттуда» еще никто со свидетельствами не возвращался) — научиться корректировать геном или постоянно заменять изнашивающиеся органы и системы конкретного человеческого организма.

В первом случае мы превратимся в биороботов. Во втором — в киборгов. От первоначально рожденного человека в такой погоне за бессмертием достаточно скоро не останется ничего. Бессмертным станешь не ты, а уже кто-то другой в твоем бывшем теле — и не факт, что с твоим персональным сознанием.

Если какой-то из этих фокусов над человеческой природой удастся, мы сможем жить сильно дольше. Но «мы» уже будем не мы.

Что касается всех остальных технологий — бесконтактных платежей, биометрии, чудо-гаджетов, которые управляют нашей повседневной жизнью, беспилотных автомобилей, умных домов — они делают нашу жизнь удобнее, комфортнее, приятнее, но не меняют ее по существу. Не избавляют нас от смерти и сомнений в смысле жизни. От любви и ненависти. От боли и глупых ошибок недостаточного человеческого разума. От смерти близких — единственного для подавляющего большинства людей (за исключением самоубийц) способа человека вообще увидеть и осознать степень трагизма смерти. Свою-то мы обычно не замечаем. («Смерть — это то, что бывает с другими»: точнее, чем Александр Васильев, и не скажешь).

Так что, дорогие товарищи, никакой технологической сингулярностью пока не пахнет. Не сейчас, не в 2020-м случится этот конец света или конец тьмы — как вам больше нравится. Мы уже можем уничтожить себя в считанные минуты оружием массового поражения, которое зачем-то создано нашим разумом и техническими возможностями. Но еще не можем отменить боль, смерть, страдания, глупости, старость, заблуждения, гнев, пристрастие, абсурд, паранойю, бессилие моральное и физическое.

Даже, пожалуй, хорошо, что не можем. Именно это делает нас такими, какие мы есть. Так что это ты, кощеюшка, бессмертный. А мы — нет. Очень может статься, что только смерть и позволяет нам оставаться людьми. Да и то не всем.

https://www.gazeta.ru/comments/column/novoprudsky/12891782.shtml

Project Syndicate (США): новый антикапитализм

09.11.2019

Гарольд Джеймс (Harold James)

…Если заглянуть вперёд, представляется, что мы станем свидетелями дальнейших радикальных перемен в посткризисном мире, при этом революция ИТ/ИИ изменит природу почти всей экономической деятельности. Банки будут угасать, и не потому, что они являются злом или системно опасны, а потому, что они менее эффективны, чем новые альтернативы. Несмотря на все улучшения в электронных коммуникациях, издержки банков и их комиссионные практически не снижаются; более того, для многих потребителей в странах с нулевыми или отрицательными процентными ставками банковские комиссионные в реальности выросли. В какой-то момент, причём в не столь уж отдалённом будущем, большинство банковских услуг будут, скорее всего, разделены на составные части и предлагаться индивидуально — новыми и улучшенными способами — через онлайн-платформы.

Гений капитализма заключается в его способности давать органичные ответы на большинство проблем, связанных с дефицитом и распределением ресурсов. Рынкам свойственно естественным образом вознаграждать те идеи, которые оказываются наиболее полезными, и наказывать дисфункциональное поведение. Они способны добиваться широких результатов (на которые не способны государства), потому что они заставляют огромное количество людей корректировать своё поведение в ответ на ценовые сигналы….:

Гарольд Джеймс — профессор истории и международных отношений в Принстонском университете и старший научный сотрудник Центра инноваций в международном управлении.

https://inosmi.ru/economic/20191109/246194367.html

Интервью создателя мобильного ютьюба Андрея Дороничева После начала войны он решил бороться с дезинформацией с помощью нейросетей

23 апреля 2023

За последний год прогресс в области искусственного интеллекта невероятно ускорился. Теперь нейросетевые сервисы используют и для написания песен, и для создания видео (в том числе самых безумных), и, конечно же, для публикации фейковых новостей. Одним из тех, кто решил бороться с дезинформацией в этой сфере, стал бывший топ-менеджер Google, создатель мобильного ютьюба Андрей Дороничев. Его компания Optic начала с выявления NFT-подделок, а в апреле запустила сервис — распознаватель изображений, созданных нейросетями. Сейчас команда Дороничева разрабатывает сервис с рабочим названием Bias-o-meter (еще один вариант — «Пропагандометр»), который дает «оценку предвзятости» публикациям в СМИ. «Медуза» поговорила с предпринимателем о перспективах развития нейросетей, их роли в информационной войне и о том, как человечество должно реагировать на эту угрозу. …

— Как ты сам изменился за 2022 год?

— Конечно, я изменился. Этот год перевернул жизнь у всех — вне зависимости от того, кто и как был вовлечен [в войну и ее последствия]. Я просто потерял возможность быть нейтральным. Война — это тот момент, когда ты больше не можешь оставаться «сидящим на заборе». Ты должен выбрать, в какую сторону спрыгнуть.

Моя позиция понятна: Россия совершает акт военной агрессии, бесконечное количество преступлений на территории другой страны, ведет захватническую войну. Поэтому, несмотря на то что я все еще гражданин России, я выступаю против текущей политики, против любой военной агрессии в XXI веке.

Это крайне сложно — как многие ваши читатели знают — выступать против [государства], когда твои ценности и отношение к жизни полностью расходятся с политикой страны, в которой ты родился. В общем, я всегда относился к России позитивно-нейтрально, у меня было понимание, что страна и политика Путина — это разные вещи. Но сейчас не время нюансов. Сейчас не время, когда можно разделять хороших и плохих русских. Сейчас украинцев у них дома убивают каждый день. Я прекрасно понимаю, что я сам в глазах миллионов украинцев являюсь частью вот этой агрессивной силы, хотя вообще никакого отношения к ней не имею….

— Какую проблему решает Optic? Почему вы начали со стартапа по борьбе с поддельными NFT, хотя вроде бы интерес к ним упал вместе с крахом рынка?

— Optic началась с простого тезиса: цифровая информация стала очень важной в нашей жизни. Важной по-разному: потому что она может начать войну, потому что она стоит денег, потому что она важна лично для вас. Цифровые файлы, записанные в битах и байтах, стали играть большую роль в нашей жизни.

Поэтому достоверность и безопасность этих данных с годами возрастает в цене. Цифровая информация настолько важна для нас, что мы готовы платить за jpeg-изображение сотни тысяч долларов. Кто-то готов пойти на улицы и убить соседей из-за текстов, опубликованных в фейсбуке. Раз уж эта информация так важна, то имеет смысл инвестировать в то, чтобы доказывать [ее достоверность] и отлавливать некачественную, нечестную, достоверную….

— Главный следующий продукт — AI or Not, который распознает изображения, созданные искусственным интеллектом?

— Да, только что запустили.

— Он сможет распознать как фейк того же Трампа в наручниках или папу римского в пуховике?

— Да и да. Нужно попробовать, но да, конечно.

— Ты указал, что AI or Not предназначен в том числе для журналистов. Как он должен помочь бороться с дезинформацией и пропагандой?

— Генеративный искусственный интеллект — это очень круто. Так же круто, как камера в телефоне. Раньше качественную фотографию мог создать только фотограф с большим объективом, и их были единицы. А теперь любой владелец айфона [может это сделать]. Раньше создать фотореалистичную иллюстрацию мог только редкий профессионал, а сейчас любой человек заходит в Midjourney и создает что угодно. Очень классно. Когда мы создаем больше инструментов для креативности, мы все в результате выигрываем. Демократизация инструментов создания контента — это хорошо.

Но каждый раз, когда появляются такие инструменты, появляются и bad actors. Появляется цветной принтер — люди начинают печатать контрафактные деньги. Появляется технология deepfake — люди пытаются манипулировать общественным мнением. Например, в первые дни войны создавая фейковые видео Зеленского, где он [якобы] сдается.

С генеративными сетями такой риск значительно возрастает. Потому что такая распространенность быстро дает возможность огромному количеству злоумышленников экспериментировать и находить способы показать, почему наше общество не готово к той или иной технологии.

Трамп в наручниках — прекрасный пример. Чтобы появился целый новый нарратив, который очень быстро распространится и повлияет на широкие массы, достаточно создать некий фейковый ассет по очень нагруженной политической теме. И будет неважно, правдива картинка или нет, потому что это уже даст эффект. Страшно представить, что будет, когда начнут генерировать фейковые доказательства военных преступлений с одной или другой стороны, [устраивать] манипуляции с выборами.

Классно, что у человечества есть инструменты, позволяющие вообразить все, что угодно, но также очень важно, чтобы у нас были надежные инструменты, способные отличать воображаемое от реального. И это то, для чего мы создали Optic и AI or Not. Мы натренировали нейросеть, которая научилась визуально отличать [настоящие фотографии от фейковых]. Злоумышленник может стереть заголовки jpeg-а и все специальные маркеры, которые Midjourney помещает в свои изображения, но Optic все равно поймет, что это картинка — генеративная.

— Я правильно понимаю, что вы обновили AI or Not так, чтобы он распознавал изображения, сгенерированные новой Midjourney?

— Да.

— Насколько успешно у AI or Not сейчас получается выполнять свою задачу? Можно ли как-то его обмануть?

— Всегда есть куда стремиться. Это как вирус и антивирус — вечная гонка вооружений. Постоянно будут появляться новые варианты нейросетей, а мы будем постоянно их догонять.

Прямо сейчас я открыл статистику нашей точности. Самый низкий показатель — 97% для [изображений, сгенерированных с помощью] Stable Diffusion. Самый высокий показатель, 99% — для Midjourney. Понятно, что сейчас выйдет что-нибудь новое и нам потребуется время, чтобы собрать данные и потренироваться.

— Следующий ваш проект — это «Пропагандометр». Наверняка он связан с потоком дезинформации во время войны. Зачем создали такой проект?

— Во-первых, с войной он не связан. Во-вторых, он родился на хакатоне полторы-две недели назад, когда мы с командой собрались и начали питчить друг другу идеи. Точнее, один из инженеров предложил [идею сервиса, который проводит] фактчекинг на основе искусственного интеллекта, что крайне сложно. Я предложил другое. Всегда можно понять, пытается ли автор продать тебе что-то своим текстом или нет, просто смотря на язык. Можно проанализировать текст и сказать, что в нем приведены лишь аргументы одной стороны или используются манипулятивные слова, которыми тебя явно пытаются в чем-то убедить.

На самом деле любые тексты пытаются тебя в чем-то убедить — это нормально. Надо понимать, что bias — это необязательно плохо или хорошо, но важно знать о его наличии. [Это поможет в том, чтобы] отличать текст, который тебе что-то продает, от текста, в котором факты изложены максимально нейтрально.

На самом деле «Пропагандометр» — это шуточное название, которое прижилось благодаря легкой руке «Медузы». Задача Bias-o-meter — это его изначальное название — приучить людей, читающих СМИ, задавать себе вопрос: «А в какую сторону меня склоняет этот текст»? Даже если ты напишешь самую позитивную вещь, например, про здоровый образ жизни — надо хорошо питаться и долго жить — Bias-o-meter, скорее всего, покажет высокий уровень biasʼa, указав, что текст подталкивает тебя к определенной точке зрения.

— Как работает «Пропагандометр»? Есть ли слова-триггеры?

— Он использует движок и всю мощь GPT, то есть анализирует текст на предмет biasʼa, что включает в себя всякие триггерные слова, разносторонность аргументов и другие факторы, которые мы пока разрабатываем. В итоге Bias-o-meter дает оценку [от одного до десяти, где десять — максимально предвзятый текст] и объяснение.

Иногда получается курьезно. Ты берешь текст «Медузы», в котором [рассказывается как] Путин что-то сказал и в котором мало оценки «Медузы», но много слов [пресс-секретаря президента РФ Дмитрия] Пескова от лица Путина. Если прочитать слова Пескова [без дополнительного контекста и альтернативной точки зрения], то они [будут выглядеть] суперпропагандистскими, поэтому и Bias-o-meter скажет, что видит очень предвзятый текст. Я понимаю, что [журналист] имеет в виду, [когда пишет новость на основе слов Пескова], но такие курьезы происходят. В таком случае надо читать объяснения [сервиса, которые демонстрируются вместе с оценкой текста].

На самом деле оценка не очень важна. Bias-o-meter же не в суде ее презентует. Самое важное, чего добиваешься при помощи этого инструмента, — это то, что ты задаешь себе вопрос о нейтральности и привыкаешь критически оценивать тексты.

КАК УСТРОЕН BIAS-O-METER

— Многие, на кого пропаганда нацелена, вряд ли воспользуются Bias-o-meter и, наверное, даже не почувствуют в нем нужды. Ты думал о том, что эффективность такого сервиса может быть не очень велика в этом случае?

— Я не думаю о Bias-o-meter как о способе решения мировой проблемы. Это прикольный прототип, который помогает увидеть, на что способны современные нейросети на фоне поляризации мира.

Что делает LLM-ка типа GPT? Она читает огромное количество текстов (по слухам, GPT прочитала треть всего интернета), а потом занимается проблемой компрессии. То есть создает статистическую модель: что человечество сказало на какую-то тему, что наиболее вероятно следует за определенным вопросом, какими должны быть следующие слова [в диалоге с пользователем]. То есть она генерирует не смыслы, а текст, похожий на смыслы.

Другие словами, LLM — это усреднитель человечества. Это не очень хороший инструмент для креативности, потому что гениальность — это вайб, а она (языковая модель, — прим. «Медузы») тебе генерит все время «среднесть».

Но именно для деполяризации общества искусственный интеллект может быть очень полезен, потому что он всегда создает центральную, среднюю позицию, на которую можно ориентироваться вне зависимости от того, в какую сторону ты [политически] отклонен: вправо или влево. Искусственный интеллект может создать привычку для нас, сидящих в эхо-камерах в фейсбуке или «Одноклассниках»: у нас будет голос «среднего» ИИ, который скажет: «Классно, что вы тут дискутируете, но помните, что у вас тут левацкий или правацкий чатик, и вообще-то не весь мир такой, как вы тут обсуждаете». Не знаю, как это должно быть устроено, но вот Bias-o-meter — это одна из ранних ласточек, примеров того, что такое возможно….

— Людям в индустрии ИИ, наверное, уже надоело отвечать на вопросы про «восстание терминаторов». Что стоит на самом деле ожидать от бума нейросетей и искусственного интеллекта?

— Восстание терминаторов на самом деле не исключено. За 25 лет в индустрии я никогда не видел чего-то похожего на то, что происходит сейчас, этой степени изменений и их скорости. Это больше, быстрее и значительнее, чем все, что мы до сих пор видели в компьютерных технологиях, начиная от распространения персональных компьютеров, интернета, айфонов и заканчивая социальными сетями.

Все эти бумы, которые сильнейшим образом изменили нашу жизнь, — вспомни мир до айфона и сейчас, — на мой взгляд, ерунда по сравнению с тем, как все теперь изменится из-за бума генеративных нейросетей. Изменения, которые нас ждут… Мы еще даже не поняли, до какой степени все будет меняться. Поэтому люди, которые относятся к этому с опасением, правильно делают. Наше общество во многом не готово к тому масштабу изменений, который грядет. И опасность, скорее всего, исходит не от терминаторов, а от способностей человечества адаптироваться к технологическим изменениям.

Когда придумали паровой двигатель и электричество, началась индустриализация, общество ожидали огромные потрясения. Когда огромное количество работников осталось без работы, потому что они были заменены машинами, случились революции. Сейчас нас ждут изменения такого же уровня.

— Что мы должны сделать в плане разработки дальнейших инструментов на основе искусственного интеллекта, чтобы совсем страшных ситуаций не произошло? Поменять правила разработки? Сделать упор на этику в ИИ? Повысить прозрачность?

— Очень важное слово, которое повторяется в индустрии — alignment. Как человечество, мы должны «заалайниться» по поводу того, какие правила — окей, а что — не окей. И [мы должны] применять эти правила при разработке каждого искусственного интеллекта.

В частности, моя компания Optic предпринимает попытки участвовать в этой дискуссии, потому что остановить, замедлить, перестать исследовать [искусственный интеллект] — это бессмысленно, этого не случится. Джинн выпущен из бутылки, и теперь мы [Optic] будем ускорять прогресс по улучшению этих нейросетей.

То, что мы обязаны сделать — это очень быстро адаптироваться. Во-первых, адаптировать наши социальные институты, обучение, бизнес-правила. А во-вторых, адаптироваться как ресерчеры [исследователи] и технологи. Другими словами, быстро анализировать новые риски и учитывать их при разработке.

Но все, кто сейчас участвуют в разработке ИИ-продуктов, должны задавать себе вопросы: А как это может сработать неправильно? Что будет плохим исходом того, что мы делаем, и как мы его можем предупредить и избежать на этапе разработки?

— Тот же Bias-o-meter работает на основе GPT. А как ты используешь ChatGPT в своей жизни?

— Очень много как использую. Он помогает мне писать имэйлы, помогает писать юридические документы. Вот недавно мне надо было сделать оффер сотруднику. Вместо того, чтобы обращаться к юристам, я обратился к ChatGPT.

То есть ChatGPT уже плотно вошел в мою жизнь — и жизнь моей команды. Более того, часть кода первой версии Bias-o-meter была написана [с помощью] ChatGPT. То есть во время хакатона я сам написал первую версию на базе того кода, который сгенерировал ChatGPT. Я бы писал расширение для Chrome день, а с ним получилось за час. Это [ChatGPT] штуковина, которая обязательно должна быть в инструментарии каждого человека.

https://meduza.io/feature/2023/04/23/vosstanie-terminatorov-na-samom-dele-ne-isklyucheno

На грани фантастики: чему научился искусственный интеллект в 2018 году

Благодаря невероятным вычислительным мощностям, искусственный интеллект совершенствуется в самых разных областях – от астрономии до литературы.

В конце 2017 года Стивен Хокинг заявил, что стремительное развитие искусственного интеллекта (ИИ) может поставить судьбу человечества под удар. Опасения британского астрофизика заключались в том, что в один прекрасный (или не очень) день искусственный разум станет столь совершенным, что сможет управлять планетой лучше людей.

"Пророчество" Хокинга, кажется, уже сбывается. Правда, лишь частично. Системы ИИ действительно становятся всё "умнее", в некоторых сферах они даже превосходят людей. Но пока что вряд ли стоит беспокоиться о восстании машин или трудовом роботозамещении. Скорее, человечество приобретает неоценимых помощников в цифровом лице нейросетей.

21 февраля 202009:51

5 приоритетных задач для компаний в сфере искусственного интеллекта в 2020 году

Эксперты PwC опубликовали свое ежегодное исследование о прогнозах развития технологии искусственного интеллекта. Они проанализировали действия и отношение руководителей бизнес-подразделений и директоров по технологиям компаний в различных отраслях, которые участвуют в разработке стратегий использования искусственного интеллекта в своих организациях.

В этом году в опросе приняли участие 1062 человека. Их них 54% — это руководители высшего звена, работа более 50% относится к ИТ и технологиям. 36% опрошенных работают в компаниях с выручкой от 5 млрд долларов. В результате проведения третьего ежегодного исследования PwC «Прогнозы развития технологии искусственного интеллекта», эксперты выяснили, что 4% руководителей американских компаний планируют внедрить искусственный интеллект в масштабе всей компании, тогда как год назад их доля составляла 20%. Составители исследования подчеркивают, что 90% опрошенных руководителей считают, что использование технологий искусственного интеллекта дает больше возможностей, чем рисков.

Составители исследования опубликовали список из пяти приоритетных задач, которые, по их мнению, поможет руководителям сделать шаги в правильном направлении по внедрению искусственного интеллекта и получить от этого максимальную выгоду.

Ниже мы расскажем подробнее об этих задачах.

1. Внедрение искусственного интеллекта в рутинные процессы

Составители исследования отмечают, что именно внедрение искусственного интеллекта в рутинные процессы поможет компаниям повысить производительность, а также снизить расходы на эти процессы. В их число входят такие процессы, как налоговая или финансовая функция. В частности, речь идет об извлечении информации из налоговой отчетности, счетов-фактур и других документов, на что у человека уходит много часов работы.

2. Пересмотр подхода к повышению квалификации

Составители исследования подчеркивают, что важно не просто предоставить сотрудникам компаний возможности для повышения квалификации в сфере использования искусственного интеллекта. Важно также стимулировать их и предоставлять им возможности для оперативного использования приобретенных навыков, что позволит повышать эффективность работы.

3.Управление рисками и ответственное применение искусственного интеллекта

Подавляющее большинство опрошенных руководителей (85%) в ходе опроса заявили о том, что их компании принимают достаточные меры для ограждения компании от возможных рисков, связанных с использованием искусственного интеллекта. Однако эксперты PwC полагают, что это может говорить лишь о том, что они недооценивают реальный уровень задач и проблем, связанных с искусственным интеллектом и его использованиям в компаниях.

4. Встраивание искусственного интеллекта в операционную деятельность

Эксперты подчеркивают, что невозможно получить максимальную выгоду от использования технологий искусственного интеллекта, если он будет применяться только в одном направлении или функциональном подразделении. Для работы искусственного интеллекта необходимо как можно больше данных.

Именно поэтому необходимо встраивать искусственный интеллект в операционную деятельность для работы 24 часа в сутки 7 дней в неделю.

5. Изменение бизнес-модели

Согласно проведенному опросу, руководители компаний полагают, что самое сложное – это не промышленный запуск технологии после пилотного запуска. Также не вызывает сложность конвергенция технологии искусственного интеллекта с другими технологическими решениями. Самое сложное в использовании искусственного интеллекта связано с бизнесом и кадровыми аспектами: оценка доходности инвестиций, утверждение бюджета и обучение сотрудников навыкам работы с технологиями искусственного интеллекта.

https://www.vesti.ru/doc.html?id=3241912

04.07.2019 Анатолий Глянцев

Искусственный интеллект, читающий научные статьи, выучил химию и предсказал открытия

Искусственный интеллект, в который не было заложено никаких знаний по химии, переоткрыл таблицу Менделеева и подсказал учёным новые перспективные материалы. Для этого он проанализировал 3,3 миллиона аннотаций научных трудов.

Достижение описано в научной статье, опубликованной в журнале Nature группой во главе с Анбухавом Джайном (Anubhav Jain) из Национальной лаборатории имени Лоуренса в Беркли, США.

Сегодня среди учёных ходит грустная шутка, что проще сделать открытие заново, чем найти информацию о нём. По оценкам пятилетней давности, в Интернете было доступно 114 миллионов (!) научных публикаций на английском языке. И каждый день к этому массиву прибавляется множество новых.

Даже в узких областях науки, будь то изучение солнечного ветра или термоэлектрических материалов, количество выходящих статей таково, что исследователь не в состоянии читать их все, даже если он ежедневно с утра до вечера будет заниматься только этим.

Научное сообщество пытается решить эту проблему, создавая более совершенные поисковые системы, базы данных и инструменты автоматического анализа информации. Но на данный момент задача быть в курсе всего, что происходит в твоей области, всё ещё требует от учёного непосильного труда.

Команда Джайна внесла свой вклад в решение этой проблемы, создав систему искусственного интеллекта, основанную на технологии Word2vec….:

https://nauka.vesti.ru/article/1216777

ИИ в медицине…

ИИ учится понимать людей

…В одной из школ Поднебесной специалисты начали тестировать технологию распознавания лиц, которая предназначена для анализа поведения присутствующих на занятиях старшеклассников в режиме реального времени. …

Также оказалось, что нейросетям под силу "живое общение". …Системы ИИ, освоив разговорные навыки, научились "болтать" наравне с человеком и даже находить выход из конфликтных ситуаций (между прочим, лучше людей). А ещё компьютер научился прогнозировать исходы словесных дуэлей.

В помощь астрономам…

ИИ-творец

Поскольку искусственный интеллект опирается на построенные человеком алгоритмы обучения, скептики долгое время сомневались, что такие системы способы "мыслить" нестандартно.

С этим могут поспорить инженеры из компании IBM, чей суперкопьютер Watson не так давно создал сценарий для рекламы автомобиля класса люкс. Ролик получил "рекламный Оскар" – награду Международного фестиваля рекламы "Каннские львы". Специалисты отметили креативность ИИ …

Напомним, что в 2018 году искусственный интеллект также научился находить ожирение из космоса, бороться с фейковыми новостями, анализировать стили живописи с точки зрения математики и даже помогать людям в общении с умершими

https://nauka.vesti.ru/article/1134420

Футурологи рассказывают о 2020-х и 2030-х: жить будут дольше, овощи растить дома, а встречаться - виртуально

04.08.2019 Никлас Фагерстрём (Niklas Fagerström)

Большие технологические изменения коснутся нашего здоровья и быта в ближайшем будущем, говорит один из крупнейших футурологов Финляндии. Всего через 20 лет жизнь будет выглядеть совершенно иначе.

Ристо Линтури (Risto Linturi) — футуролог, который вот уже более 40 лет предсказывает грядущие радикальные технологические изменения и часто оказывается прав в своих предположениях.

…устройства, позволяющие нам анализировать собственное здоровье прямо дома или где угодно, станут гораздо более обычным делом. «Благодаря этому начнет набирать популярность лечение на расстоянии, ведь врач сможет делать какие-то выводы о нашем состоянии, опираясь на анализы, сделанные этими аппаратами».

Кроме того, эти данные можно будет отправлять в систему с искусственным интеллектом, который будет их анализировать и делать выводы. Не исключено, что это даже будет происходить в режиме реального времени.

«Система на основе искусственного интеллекта будет следить за ситуацией постоянно и оповещать своего пользователя или врачей, если нужно что-то проверить особенно тщательно».

Самодиагностика

Также люди смогут по собственной инициативе что-то предпринимать, чтобы улучшить свое здоровье, опираясь на данные своих гаджетов. Отчасти это происходит уже сегодня: например, мы используем браслеты, фиксирующие нашу физическую активность, или устанавливаем у кровати специальное устройство, которое подробно анализирует, как мы спим. Но эти системы будут развиваться все дальше и дальше, и в итоге начнут распознавать также симптомы различных болезней.

«Не исключено, что в будущем у нас появится цифровой близнец, модель нашего тела со всеми его тканями. Мы сможем давать ему виртуальные лекарства или еду и смотреть, какой эффект они оказывают».

Кроме того, эта модель сможет делать пугающе точные прогнозы об ожидаемой продолжительности жизни человека. «Пройдет еще минимум десять лет, и появятся также цифровые близнецы, которые будут учитывать и уникальные гены человека», — говорит он.

Врачи начнут чаще и чаще подбирать уникальное лечение для каждого человека, учитывая все эти многочисленные данные о пациенте. «Национальные рекомендации по питанию и Национальные рекомендации по лечению заболеваний, которые сейчас во многом определяют, какое лечение мы получаем, станут менее важны. Вместо этого нас будут лечить в зависимости от наших генов, кишечной флоры, метаболизма и образа жизни», — рассказывает он.

В некоторой степени эту тенденцию можно проследить уже сегодня. Например, на прошлой неделе Svenska Yle писала о финской компании, которая разрабатывает индивидуальные программы превентивного ухода за здоровьем.

Мы будем сохранять молодость гораздо дольше

По словам Линтури, весьма вероятно, что в не слишком отдаленном будущем реальностью станут лекарства от старения. «Мы уже довольно много знаем о процессах, происходящих в теле, когда оно стареет. Например, сильно уменьшается количество вещества НАД+ (окисленная форма никотинамидадениндинуклеотида), необходимого для обновления клеток. Существуют также другие механизмы, которые по более или менее понятным причинам перестают работать».

Он рассказывает, что ученые сейчас активно экспериментируют в этой области. «Эксперименты над людьми пока только в процессе, а вот мышам в ходе экспериментов уже удалось продлить здоровую жизнь на 30 %», — говорит он.

Линтури рассказывает, что ученым удалось снизить у мышей симптомы деменции и количество проблем с сердцем, а также справиться с их возрастным атеросклерозом. «С таким лекарством можно не только затормозить старение, но и вернуть молодость», — говорит он.

Шанс 50 %

По его оценкам, шанс того, что в течение десятилетия ученые смогут разработать такое же лекарство для людей, составляет около 50 %. «Тогда в начале 2030-х годов мы уже будем знать, как сохранить здоровье и продлить жизнь минимум на 20 %», — говорит он.

Ристо Линтури добавляет, что, возможно, кое-кто уже сегодня принимает такие экспериментальные лекарства, и они могут существенно продлить им жизнь.

Если это произойдет, в обществе по всей земле произойдут большие изменения, ведь люди внезапно получат 20 дополнительных лет здоровой жизни. Это может иметь много позитивных последствий, но одновременно поспособствует увеличению пропасти между состоянием здоровья людей из разных социальных слоев, а также станет проблемой для пенсионной системы.

«Это неожиданно сильно повлияет на наши пенсии. Возможно, пенсии уменьшатся на целых 70 %», — говорит он. Чтобы этого не произошло, придется сильно поднять пенсионный возраст. «Чтобы пенсии сохранились на нынешнем уровне, при таком сценарии пенсионный возраст придется поднять лет до ста».

Кроме того, люди у власти смогут дольше вести свою деятельность, если сохранят здоровье и будут дольше жить. «Мы можем только догадываться, как выглядела бы сегодня Финляндия, если бы Кекконен был жив и здоров на 30 лет дольше», — говорит он.

Большое значение домашнего очага

Технологические изменения, которые предсказывает Ристо Линтури, касаются не только здоровья, но во многом и повседневной жизни у себя дома.

«Одно из самых больших изменений заключается в том, что мы все больше будем жить в виртуальных мирах. Мы будем надевать специальные очки виртуальной реальности в особых комнатах с мягкими стенами и отправляться, например, на виртуальную планету под названием Пандора».

А еще в виртуальных мирах мы будем видеться с друзьями и участвовать в деловых встречах. Так предполагает Линтури.

Технологии виртуальной реальности также позволят путешествовать в разные точки земли, не вредя при этом климату — вы сможете, например, отправиться в джунгли, на Великую китайскую стену или в какое-то место, которого больше не существует, или даже никогда не существовало. Многое из этого возможно уже сейчас, но в будущем это станет еще удобнее и увлекательнее.

Линтури уже провел месяц в виртуальном мире, изучив там античную Грецию. «Я везде погулял и заглянул в разные здания. Было невероятно интересно посмотреть на древнегреческий город Дельфы с его храмом у подножия горы Парнас», — рассказывает он.

В реальности он тоже бывал в тех местах и видел руины. Но в виртуальном мире он оказался в самой исторической среде во всей ее древней красе и увидел людей, живших в то время — кузнецов, солдат и многих других.

«Это был очень интересный опыт. Я провел 200 часов в виртуальном мире, представляющем античную Грецию. Фильм я так долго смотреть точно бы не смог», — рассказывает он.

Больше автоматической доставки и роботов

Уже в 2020-х годах станут обычным делом автоматические такси и дроны, дешево и быстро доставляющие еду и другие товары прямо к вам домой. «Робототехника будет иметь огромное значение для развития логистики», — говорит Линтури.

Продукты питания, возможно, начнут производить прямо дома с помощью специальных роботов для выращивания овощей и фруктов, снабженных эффективными светодиодными лампами — например, в виде особых «шкафов-теплиц», стоящих на кухне или в подвале многоквартирных высоток.

Кроме того, мы сможем прибегать к помощи роботов, когда нам надо отремонтировать дом, помыть окна, подстричь изгородь и газон или приготовить еду. Нам не обязательно будет их покупать — одни и те же роботы будут работать в разных местах.

«Будущее наступает быстрее, чем многие думают», — говорит Ристо Линтури с энтузиазмом.

https://inosmi.ru/social/20190804/245566189.html

Кто будет работать в будущем: роботы или люди? (Le Monde, Франция)

07.02.2020

(…)

Антонио Казилли, социолог, профессор Télécom Paris и научный сотрудник Высшей школы социальных наук.

Ремесленное производство помогает «создателям»

С 2008 года в сфере труда наблюдаются две тенденции. С одной стороны, искусственный интеллект, международные платформы и финансовая глобализация привели к сильнейшему разделению труда с появлением микрозадач. С другой стороны, набирает силу и противоположное течение: «создатели» (makers).

Речь идет о людях, которые пользуются цифровыми технологиями для переноса производства в так называемые «производственные лаборатории» (fabrication laboratory). Они могут производить как предметы общего потребления (одежда, мебель, велосипеды, персонализированные компьютеры…), так и самые разные вещи вплоть до маленьких домов площадью около 100 квадратных метров.

Это движение стало продолжением долгой традиции «Сделай сам» в США. Организованную и международную форму оно приняло в 2005 году, когда был основан журнал Make. Главная производственная лаборатория в США называется Artisan's Asylum. Она расположена в Сомервилле (муниципалитет в рамках большого Бостона) и позволила сформировать около полусотни предприятий и стартапов за первый год с открытия.

Создатели — это плотники, дизайнеры, архитекторы, молодые инженеры, специалисты по гуманитарным и общественным наукам, обработке металла, цифровым технологиям и информатике.

Их производство находится на локальном уровне, опирается на короткие цепочки и небольшие объемы. Разумеется, в самом подходе «Сделай сам» нет ничего нового. Новизна касается альянса цифровых технологий, экономики свободных лицензий и ремесленного производства. Речь идет о появлении своего рода цифрового ремесленничества, которое прокладывает путь новым способам организации труда, поштучному производству, без иерархии и разделения труда на периферии капитализма.

Это движение подталкивает к действию, созиданию и распространению на индивидуальном уровне, перекликается с экологическими опасениями пост-продуктивизма. Философия создателей предполагает возвращение человеком власти над предметом.

Речь идет о том, что создавать предметы, анализировать их для преодоления созданных вертикальным капитализмом препятствий, например, запланированного устаревания. Создатели выступают за демократизацию производства и связи между потребителями и производителями. Их число растет по всей планете.

Изабель Берреби-Хоффманн, социолог Национального центра научных исследований

Вопрос образования

Машины с искусственным интеллектом в конечном итоге будут доминировать и заменят нас? Ведущиеся повсюду споры насчет этики ИИ, безусловно, интересны, но пока что представляют собой исключительно домыслы. Поэтому они не должны оттеснять в сторону гораздо более важные и актуальные вопросы регулирования интернет гигантов (в том числе китайских) и их алгоритмов. Дело в том, что «платформизация» экономики этими предприятиями еще больше усиливает глобализацию и ослабляет тех, кто должны были бы регулировать их: государства.

Кроме того, «алгоритмизация» все большей части нашей жизни ведет к тому, что человек теряет ориентиры, а иногда даже не осознает отчуждение, с которым столкнулся. Хотя цифровые инновации несут в себе беспрецедентный прогресс и преобразования, а также перераспределяют власть в пользу индивида, нельзя не признать, что сегодня они также ведут к «уберизации» труда, лишая работников части социальной защиты.

Могут ли города, регионы и политические власти в полной мере принимать решения о политике обустройства территории, если дома могут превращаться в гостиницы (Airbnb), улочки — магистрали, а тротуары — в дорожки для самокатов (Waze, Google Maps, Uber, Lime) из-за одного простого приложения, которое меняет использование пространств без их физического изменения? Получится ли завтра сохранить коллективные механизмы солидарности, если наши дети будут получать образование с помощью калифорнийского онлайн-курса, а мы будем лечиться через китайскую медицинскую платформу?

В замещении части труда роботами нет ничего нового: оно началось еще в 1970-х годах. Единственное исключение в том, что прошлом эта тенденция разрушила и изменила труд рабочих, а сегодня принимается за служащих: под ударом все.

Отметим, что сейчас под угрозой оказались те профессии, которые казались нам незыблемыми: врач, адвокат, бухгалтер, архитектор и т.д. Это не означает, что прием у доктора заменит чат с ботом. Нет, врач, как и многие другие профессии, сохранит свою роль в подтверждении диагноза и лечении пациента.

Воздействие искусственного интеллекта не столько разрушает, сколько меняет профессии, и в этой связи вопрос образование будет становиться только важнее. Для этого потребуется сильная государственная политика, хотя платформы начинают конкурировать с государствами и существенно ослаблять их.

Сейчас нам следует в первую очередь обсуждать именно этот вопрос, а не этику ИИ, который все еще остается в гипотетической сфере. Это немного напоминает сурвивализм и коллапсологию, которые идут только во вред экологии.

Бенуа Тьелен, основатель агентства цифровых инноваций La Netscouade, бывший председатель Национального совета по цифровым технологиям

«Крестный отец ИИ» Джеффри Хинтон уволился из Google, раскритиковал компанию за неэтичность — и теперь предупреждает мир об опасности искусственного интеллекта

7 мая 2023, Mark Blinch

Хинтон ушел из Google и выступил против чат-ботов, потому что из-за них обычные люди «больше не будут знать, где правда»

В 2012 году профессор Университета Торонто Джеффри Хинтон и двое его студентов разработали систему, которая могла анализировать тысячи снимков и обучать саму себя распознавать в реальности похожие объекты — например, цветы, животных или автомобили — с беспрецедентной точностью. После выдающегося достижения Хинтон и его ученики Илья Суцкевер и Алекс Крижевский продолжили исследования — а компанию, в которой они трудились над нейросетями, приобрела Google. Именно разработки британского профессора и двух студентов ускорили внедрение ИИ — и привели к появлению ChatGPT, Google Bard и других чат-ботов.

В 2018-м Хинтон получил премию имени Алана Тьюринга с формулировкой «за концептуальные и инженерные прорывы, сделавшие глубинные нейросети краеугольным компонентом в вычислительной технике». Пять лет спустя ученый резко изменил взгляды на ИИ, покинул Google — и 1 мая дал интервью The New York Times (NYT), в котором высказался об опасностях в этой сфере. Главная угроза чат-ботов и других подобных технологий, по мнению Хинтона, заключается в том, что интернет так сильно наполнится фейковым контентом — сгенерированными фотографиями, видео и текстами, — что обычные люди «больше не будут знать, где правда».

Ученый также выразил опасения, что ИИ-технологии со временем превратятся из помощников людей в их замену и оставят представителей многих профессий без работы. «Некоторые люди верили, что технологии могут стать умнее, чем мы, но большинство считало это преувеличением, — сказал Хинтон в интервью NYT. — Я тоже думал, что до этого еще далеко. Я думал, что нам остается до этого от 30 до 50 лет или даже больше. Очевидно, я больше так не считаю».

Хинтон развивал идеи Тьюринга и мечтал создать искусственную систему, которая обучалась бы, как человеческий мозг

…методы, в создании которых Хинтон принял активное участие, назвали глубоким обучением. Они позволяли ИИ не только выполнять конкретные действия в рамках одного алгоритма, но и расширять свои возможности с помощью внешних данных.

«Идея состояла в том, чтобы получить устройство, которое обучалось бы так же, как обучается мозг, — рассказывал Хинтон. — Это была не моя идея, о том же думал Алан Тьюринг. Он считал, что мозг представляет собой неорганизованную машину, которая использует обучение с подкреплением (способ машинного обучения, когда система обучается, взаимодействуя со средой, — прим. „Медузы“), чтобы менять связи внутри себя, и которая способна обучиться чему угодно. Он считал, что это лучший подход к изучению интеллекта».

Стремление разработать систему, которая могла бы обучаться так же, как человеческий мозг, определило всю карьеру Хинтона. В конце 1970-х и в 1980-х он активно пытался создать алгоритмы, способные распознавать звуки и изображения. Ключевую роль в проектах ученых того времени играли внутренние представления, то есть информационные структуры, которые воспринимающая система создает и сохраняет как комбинации качеств, присущих внешним объектам.

«Вопрос о том, как создавать внутренние представления, считался святым Граалем исследований ИИ», — объяснил Хинтон. Однако компьютеры полвека назад не обладали достаточной скоростью, чтобы генерировать внутренние представления так же быстро, как человеческий мозг. …

Головоломка с обучаемостью искусственных систем решилась с появлением более быстрых и мощных компьютеров уже в XXI веке. Хинтону и его коллегам удалось внедрить в искусственные системы алгоритмы, которые позволяли тем формировать внутренние представления. Еще ИИ снабжали паттернами речи, которые позволяли воспринимать и интерпретировать устную речь и письменные тексты. Заложенные в системах Хинтона детекторы признаков обрабатывали фрагменты информации и находили связи между ними, благодаря чему процесс обучения заметно ускорился.

«Похожие идеи были и у других ученых, но он всегда оказывался в центре событий, — объяснил вклад Хинтона в исследования ИИ журналист NYT и писатель Кэйд Мец. — Он активно участвовал в создании систем, которые научились распознавать сначала речь, а затем изображение. Эти два момента стали ключевыми для технологического прогресса и для того, как ИИ применяется в наше время».

Еще два года назад Хинтон разрабатывал новую систему, но изменил мнение об ИИ из-за технологической гонки Google и Microsoft

После разработки нейронной сети с уникальными возможностями к глубинному обучению в 2012-м Хинтон основал компанию DNNresearch и нанял студентов Илью Суцкевера и Алекса Крижевского, которые вместе с ним занимались исследованиями ИИ. Несмотря на скромный статус компании всего с тремя официальными сотрудниками, между крупными корпорациями разразилась борьба за возможность поглотить DNNresearch. На сотрудничество с Хинтоном претендовали китайский технологический гигант Baidu, Google, Microsoft и британский стартап DeepMind британского нейробиолога Демиса Хассабиса, запущенный всего двумя годами ранее.

По итогам аукциона DNNresearch перешла под контроль Google за 44 миллиона долларов. Несмотря на готовность Baidu предложить более крупную сумму, Хинтон сам решил остановить торги, поскольку не захотел, чтобы научное сотрудничество превращалось в фарс. С тех пор и до мая текущего года «крестный отец ИИ» продолжал разработку более совершенных нейронных сетей именно в Google.

В 2021 году Хинтон сосредоточился на создании системы GLOM. По задумке Хинтона, новая разработка должна была решить одну из основных проблем, связанных с ИИ, поскольку обладала бы способностью распознавать одни и те же объекты с разных ракурсов. До этого, несмотря на стремительное развитие нейронных систем и связанных с ними технологий, алгоритм мог, к примеру, не распознать одну и ту же чашку, если она изображалась сначала сбоку, а затем сверху. Подобные задачи продолжали мотивировать и вдохновлять Хинтона, несмотря на статус и положение, которого он добился за почти полувековую карьеру.

Еще одна идея Хинтона заключалась в том, чтобы снабдить нейронные системы «векторами согласия» — алгоритмами, которые анализировали бы информацию схожим образом, но дополняли друг друга и помогали составить более полную картину. Ученый сравнивал подобный подход с группой людей, занятых мозговым штурмом: все они могут соглашаться между собой, однако в ходе дискуссии у них с высокой долей вероятности получится совершенствовать индивидуальные внутренние представления.

«Джефф очень необычный мыслитель в том плане, что он способен совмещать сложные математические концепты с биологическими факторами и на основе этой связи формулировать теории, — отмечает нейроученая и бывшая студентка Хинтона Сью Беккер. — Исследователи более узкого профиля концентрируются либо на математической теории, либо на нейробиологии. У них намного меньше шансов найти ответ на вопрос, как могут учиться и думать люди и машины».

Когда Google, OpenAI и другие технологические компании, занятые исследованиями ИИ, начали разрабатывать нейронные сети, которые обучались на основе обширных фрагментов цифрового текста, Хинтон предположил, что теперь у машин появится больше шансов распознавать и генерировать языки. Однако этот способ обучения, по его мнению, все равно уступал тому, как распознают текст и речь люди.

Позиция Хинтона изменилась в 2022 году, когда Google и OpenAI разработали системы с намного более крупными, чем раньше, базами данных. До этого ученый гордился тем, что Google действует осторожно и не допускает попадания на рынок технологий, теоретически способных принести вред человечеству. Но в последний год конкуренция между Microsoft и Google подтолкнула обе компании к выпуску чат-ботов, возможности которых, по мнению Хинтона, еще не до конца осознают даже сами разработчики. По словам ученого, в некоторых аспектах нейронные сети стали совершеннее, чем человеческий мозг.

«Есть вероятность, что происходящее в этих системах намного превосходит по сложности процессы в человеческом мозге, — отметил ученый. — Посмотрите на то, что происходило [в сфере исследований ИИ] пять лет назад, и на то, что происходит сейчас. Представьте, с какой скоростью изменения будут происходить в будущем. Это пугает». Большинство коллег Хинтона пока считают угрозу гипотетической, но он сам уверен, что во избежание катастрофы нужно взять под строгий контроль Google, Microsoft и других технологических гигантов.

Хинтон опасается, что технологии в конце концов сотрут для большинства людей границу между вымыслом и реальностью, а также кардинальным образом изменят ситуацию на рынке труда. Еще один повод для опасений ученого состоит в том, что искусственные системы могут обучаться непредсказуемому поведению, когда анализируют обширные массивы данных. Это значит, что людям будет все сложнее прогнозировать механизмы функционирования ИИ.

В интервью NYT после ухода из Google указано, что Хинтон жалеет о работе всей своей жизни, но утешает себя оправданием: «Если бы я этого не сделал, это сделал бы кто-то другой». В более позднем разговоре с изданием MIT Technology Review ученый уточнил:

[Журналист NYT] пытался заставить меня сказать, что я сожалею. В конце концов я сказал, что, возможно, небольшие сожаления у меня есть. [Но] я не думаю, что принимал какие-либо неправильные решения во время исследований [по созданию нейросетей]. На самом деле [в 1970-е и 80-е годы] нельзя было предвидеть [текущий этап развития ИИ]. До самого последнего момента я думал, что экзистенциальный кризис [из-за угроз ИИ] еще очень далек [от нас]. В общем, никаких сожалений по поводу того, что я сделал, у меня нет.

https://meduza.io/feature/2023/05/07/krestnyy-otets-ii-dzheffri-hinton-uvolilsya-iz-google

За волшебством ИИ скрывается человеческий труд

… Начало автоматизации труда не должно скрывать другую, еще более важную тенденцию: замещение «хороших» и защищенных рабочих мест «плохими», то есть низкооплачиваемыми и нестабильными. Будущая цель труда заключается в формировании институтов социальной защиты и профсоюзов, которые помогут этим людям получить достойную жизнь.

https://inosmi.ru/economic/20200207/246797555.html

Вести (Украина): роботы и люди — кто окажется более человечным

02.01.2019 Ирина Савина

Опасное чудо техники…

Киборги среди нас…

Законы робототехники

Британцы — одни из первых взялись за обсуждение не только практической пользы роботов, но и этических вопросов, связанных с использованием искусственного интеллекта. Весной 2016 года Британским институтом стандартов был опубликован «Свод этических правил для роботов». В него входит множество правил, в том числе и базовые: запрещено создавать роботов, которые приносят физический и психологический вред человеку. По словам сопредседателя группы научных советников Королевского общества профессора Оттолайн Лейзер, принцип процветания человечества должен быть положен в основу всего управления роботами и системами искусственного интеллекта. «Мы полагаем, что три закона Азимова могут быть в нем объединены», — добавил он. А к этому стоит добавить обязательную прозрачность программного обеспечения, безвредность роботов, а также ответственность человека за действия машины.

Параллельно в США основатель Microsoft Билл Гейтс предложил облагать роботов таким же налогом, как и людей. Он считает, что если человек на рабочем месте платит каждый месяц определенную сумму в виде налогов, то робот тоже не должен освобождаться от налогового бремени. Опасения Гейтса направлены на будущее, когда роботы все же заменят людей повсеместно. Таким образом Гейтс пытается уравновесить выбор работодателя между человеком и роботом. А с другой стороны, он дает ему некие права, которые сближают робота с человеком, ставя на одну финансовую ступень — чтобы платить налоги, нужны начисления оплаты труда робота.

В феврале 2017 года Европарламент принял резолюцию «Нормы гражданского права о робототехнике». Один из ее пунктов предлагает внедрение общеевропейской системы регистрации умных машин. Также отдельным категориям роботов следует присвоить индивидуальный регистрационный номер, который будет заноситься в специальный реестр. Желающие смогут найти в реестре всю информацию о роботе, включая данные о производителе, владельце и условиях выплаты компенсации в случае причинения вреда. Поддержанием системы и контролем должно заниматься специализированное агентство по робототехнике и искусственному интеллекту, которое могло бы взяться и за другие аспекты регулирования в этой сфере. Кроме того, в этой резолюции Европарламент делал попытку заглянуть в далекое будущее, когда полностью самостоятельные роботы смогут сами устраиваться на работу, обсуждать условия договоров и решать, как их выполнять. Пока еще чиновники не смогли договориться, по каким именно правилам будет наступать ответственность за вред, причиненный людям полностью автономной машиной. Этот вопрос оставлен на ближайшее будущее.

Машинная этика: к кому приравнивают робота

Американский писатель-фантаст Айзек Азимов в свое время сформулировал три закона, которые должны определять взаимоотношения между людьми и роботами:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Робот должен повиноваться всем приказам, которые дает человек, кроме случаев, когда эти приказы противоречат Первому закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.

С развитием роботизации и искусственного интеллекта во многих странах мира начались дискуссии на тему прав и обязанностей роботов. Со временем обсуждения разговоры переросли в разработку правовой базы, которая позволит разобраться в правах и обязанностях искусственного разума, вложенного в кибертело. Что делать с правовой базой применительно к роботам, особенно когда они не просто похожи, но и способны заменить людей, могут существовать автономно, без вмешательства человека? Как сделать так, чтобы полностью автономная запрограммированная машина могла действовать в соответствии с моралью и этикой человека, а также оценивать свои поступки с точки зрения нравственности?

Чтобы создавать правовую базу, нужно для начала разобраться: кто он, робот, если умеет мыслить и выполнять такие же действия, как человек? Для того чтобы определить степень ответственности роботов, были предложены разные идеи. Один из вариантов — приравнять их к животным, когда за все проступки машин отвечают их владельцы или производители (в случае появления «бездомного» робота). Вторая идея — относиться к роботам как к юридическим лицам, с которыми можно судиться так же, как с самостоятельным субъектом права. И третий вариант — дать им статус физического лица, а это уже приравнять к человеку и его правам. Такие вопросы задаются в масштабах технологической индустрии.

Кому достанется право быть человеком

Скептики утверждают, что постепенная замена человека роботами — это теория из области фантастики. Ведь роботы стоят миллионы, и все то же самое может делать человек, которому за всю его жизнь не заплатят столько, сколько вложено в разработку машины. Но роботы так дорого стоят, потому что пока созданы единичные прототипы, а если дело поставить на конвейер и выпускать их огромными партиями, цена упадет в десятки раз. При этом такой работник не требует зарплаты и может трудиться круглосуточно, если своевременно проводить ремонт и сервис. А преимущество робота перед человеком — в простоте управления и предсказуемости результата. Роботам не нужна бухгалтерия, кадровый отдел, столовая, уборщики, транспортировка, аренда помещений и покупка различного оборудования, спецодежды и канцтоваров. Не хватает одного или десяти роботов — не проблема, их легко масштабировать. И так постепенно заменить ими штат людей. Хорошо ли это? Все зависит от того, с чьей точки зрения посмотреть на ситуацию: со стороны сотрудника, теряющего работу, — плохо, со стороны работодателя, который устал справляться с сотней разношерстных сотрудников, — хорошо.

Именно из-за желания жить дольше и обойти на жизненной дистанции роботов человеку придется постепенно заменять стареющие части тела и органы новыми — бионическими. Разумная синергия технологии и человека, с его креативной составляющей и уникальной и пока неповторимой нейронной системой, сможет помочь человечеству быть более совершенным, чем роботы с саморазвивающимся искусственным интеллектом. Правда, в таком соревновании человек столкнется с дилеммой. Кто станет более человечным — человек, у которого на 80% заменены конечности, внутренние органы на бионические протезы, а из своего остается только мозг, да и тот недолговечен? Или робот с саморазвивающимся искусственным интеллектом, которому дают гражданство, взимают с него налоги, прописывают под него законы и дают права физического лица?

Стремительное развитие роботизации может в один момент поставить роботов и людей на одну ступень развития, останется только решить маленькую проблему — научиться переносить человеческое сознание в компьютер и параллельно достоверно установить, что собой представляет феномен сознания и личности — то, что отличает человека разумного от всех остальных существ, в том числе и механических.

Задачи на сегодня пока попроще, но и они достаточно сложны для принятия каких-либо законодательных решений. Для современных роботов необходимо отработать стандарты и правила — как машины с интеллектом должны взаимодействовать с людьми. Также должны решаться вопросы общефилософского характера — необходимо ли использовать для машин этические правила и нормы, свойственные человеку, при принятии решения в критических ситуациях. Главное во всех этих вопросах прийти к общему знаменателю — что мы понимаем под выражением «свойственное человеку». И для начала попытаться применить эти стандарты по отношению к самим себе, а потом все то же самое требовать от умных машин.

https://inosmi.ru/social/20190102/244003818.html

даже если создатель ИИ запрограммирует свое творение на любовь к людям, нет никакой возможности фильтровать пользователей, имеющих доступ к новой технологии. В этом случае бота могут научить как хорошим, так и плохим вещам. Кроме того, нельзя исключать и хакерскую атаку — нет гарантии, что злоумышленники не смогут получить доступ к системе и умышленно настроить бота на совсем другую волну.

РАНХиГС советует правительству развивать искусственный интеллект

Москва, 16 января - "Вести.Экономика". Россия должна развивать технологии искусственного интеллекта (ИИ), утверждается в обзоре Центра перспективных управленческих решений РАНХиГС.

"Нужно разрабатывать свой ИИ, никто такими технологиями не поделится. Если Россия не будет развивать это направление, то безнадежно отстанет. Необходимо перейти к активным мерам по внедрению искусственного интеллекта в процессы деятельности органов власти и бюджетного сектора, а также поддержать внедрение в сферах экономики", - отмечается в обзоре "Государство как платформа: люди и технологии".

Подробнее: https://www.vestifinance.ru/articles/113160

Garīgā izaugsme

svētdiena, 2021. gada 2. maijs

Каким будет мир Будущего?! (1)

Nav komentāru:

Ierakstīt komentāru

Emuāra arhīvs