Цифровое государство: выгоды и угрозы

                                                                                                 Facta, non verba

   

Цифровое государство: выгоды и угрозы

     Широкая распространенность Интернета, электронная аккумуляция данных большого объема (big data), их алгоритмизированная обработка – также с использованием искусственного интеллекта (AI) стимулируют и определяют процессы оцифровки всевозможных областей нашей жизни. Информационная экономика в настоящее время стала двигателем прогресса цивилизации, критерием конкурентоспособности, мерилом роста государства. Внедрение цифровых технологий и их разумное использование обеспечивают значительный прирост продуктивности, высокую энергоэффективность и качество производимой продукции, открывают оперативные возможности для производства товаров в соответствии со специфическими требованиями каждого потребителя.

     Осознавая это, дальновидные политики заинтересованы в продвижении и поддержке процессов оцифровки государства как с помощью различного рода преференций (налоговых, субсидийных, скидочных и т.п.), так и путем создания инновационных центров и реализации пилотных проектов. Тем самым достигая более высоких темпов экономического развития и адекватного им повышения качества жизни граждан.: 

Продолжение статьи: см. e-book : https://www.litres.ru/ervin-filippov/kak-izbavitsya-ot-okov-totalitarizma-vyzov-preodolet-politi/

 https://www.ozon.ru/product/kak-izbavitsya-ot-okov-totalitarizma-526017537/?sh=lUPMEml_0g

​​​​​​​https://www.super-izdatelstvo.ru/product/kak-izbavitsya-ot-okov-totalitarizma

                                                                  *  *   *

    26 НОЯБРЯ 2023

Кто станет лидером в области искусственного интеллекта, тот станет властелином мира

считает Владимир Путин

Михаил Шевчук

«Есть президент — и хватит». Что лучше — российский чиновник или российская нейросеть на курьих ножках.

Консерватор ведь необязательно принципиальный враг прогресса. Просто прогресс для него тоже должен быть консервативным, встроенным в традицию — это значит, любой интеллект, даже искусственный, обязан подчиняться высшим трансцендентным силам. 

На днях глава Ханты-Мансийского АО Наталья Комарова высказала интересную для чиновника мысль о ненужности в современном мире собственно чиновника: его вполне может заменить нейросеть. И губернатора может заменить с тем же успехом, и, по-видимому, даже министра — то есть человека тут, по большому счету, можно, значит, как-нибудь и сократить, обойтись. Только одного человека нейросеть заменить не способна — президента. К нему-то все и сводится. Есть президент — и хватит, заключила Комарова.

Вроде и пошутила, но на самом деле довольно точно описала основной принцип организации и функционирования российской политики. В ней и правда существует только один настоящий актор, только одно по-настоящему действующее лицо, а все остальные элементы легко заменимы и, по большому счету, как раз и изображают своего рода нейросеть, хотя и ограниченную — она обучена только проводить заданные импульсы по строго определенному маршруту и сценарию.

Не исключено даже, что вместо Натальи Комаровой с нами нейросеть уже и заговорила, вскрывая карты (проверить это можно, заглянув в зарплатную ведомость — если деньги не начисляются, значит, киберпанк победил; хотя и это не гарантия, конечно, могут быть просто «мертвые души»).

Не надо думать — с нами тот, кто все за нас решит, были такие строки в песне Владимира Высоцкого. Кстати, там тоже дело на Украине происходит…: https://republic.ru/posts/110623 

Цифровизация экономики: проблемы, вызовы, риски

Александр Арсеньевич Петров

АННОТАЦИЯ

Показано значение в развитии человечества четвертой промышленной революции и ее продукта — цифровой экономики, ее двоякое воздействие на повышение благосостояния и рынок труда отдельной страны и на мировое сообщество в целом. Рассмотрены последствия внедрения искусственного интеллекта, киберфизических систем в производственные процессы. Раскрыты возможности и проблемы развития цифровой экономики в России. Рассмотрены отрицательные последствия цифровой экономики, блокирующие ее развитие факторы, а также возможные пути их нейтрализации и устранения.

https://ojs.hse.ru/index.php/tradepolicy/article/view/8267/9129

Тотальный контроль

 Социальный рейтинг в Китае I Черный список граждан I    

https://www.youtube.com/watch?v=2u-Y3kguH_k

"По данным рассылки расследовательского центра "Квадрат", представители CNPCIC и делегация разработчиков системы социального доверия (кредита) из Китая посетят Россию и Белоруссию "до конца 2023 года".

Цели визита официально не объявлены, но как заявляют эксперты, пройдут консультации по подготовке аналогичной системы "социального рейтинга жителя союзного государства". Эксперты считают, что такая система будет внедрена в РФ (и РБ) "после СВО, но до 2030 года".

 

Когда в России введут социальный рейтинг

Игорь Шнуренко, как не будут пускать даже в магазины

 Жителей России в скором времени могут начать ранжировать в соответствии с их социальным поведением и введут социальный рейтинг. Начавшую работать в московском метро систему оплаты проезда по лицу пассажира Face Pay можно считать отработкой технологии всеобщей слежки за гражданами. При этом открытым остается вопрос, кто и как будет управлять этой системой. Подобная система несколько лет тестировалась в Китае и с начала 2021 года стала обязательной по всей стране. Изначально всем гражданам присваивается, например, 1000 баллов. Далее каждый поступок гражданина приводит к начислению или списанию баллов. Этим занимается автоматическая система через расставленные повсюду камеры и отслеживание активности в интернете. Скажем, человек перешел дорогу на красный свет — списались 5 баллов, уступил в электричке место бабушке — начислили 5 баллов, сходил на выборы — еще плюс 20 баллов, проголосовал электронно — плюс 40, зашел на страницу оппозиционного блогера — минус 100. Об этом рассказывает специалист по искусственному интеллекту (ИИ), писатель Игорь Шнуренко.

Все эти рейтинги будут на руку властьимущим. Помалкивай, а то понизится рейтинг. Будут навязывать кредиты, не отдал вовремя теперь и на работу не возьмут. Кому проблемы нужны! У нас в России и так крупные компании проверяют людей. Являешься учредителем; бывшим заключённым; лежал в психушке; госслужащим; имеешь маленьких детей, ипотека, не отдал кредит- уже в крупных компаниях скорее всего не будешь работать. Там служба безопасности не пропустит. А это всё без социального рейтинга. Социальный рейтинг заставит быть лояльным к власти и банкам. А человеку нужно социальное государство доступная медицина: у нас сейчас мрт, катэ не везде в бесплатных клиниках, нормальные дороги, школы с новыми знаниями, а не теми которые обновлялись 30 лет назад. Я думаю если серьёзно будут быстро внедрять это у нас Казахстан покажется нашему правительству цветочками, хакерская атака и массовые разгромы, а сценарий как в лучших галивудских фильмах. Они думают новый закон об эвакуации кого то остановит, я думаю только разозлит. Спокойно водки и под пули. Дай нашим властьимущим "мозги", что попало не делать!

https://www.youtube.com/watch?v=r1-cC-dEw-8

«Включите голову»: чем опасна цифровая революция

Рустем Фаляхов 23.01.2020, 17:07

Цифровые технологии несут не только прогресс. Они меняют человека и не всегда в лучшую сторону. Мир уже захватила эпидемия «цифрового аутизма». Это является проблемой и для власти и для бизнеса. Как решать эту проблему эксперты обсуждали в Давосе на деловом завтраке Сбербанка.

«Личностная трансформация в цифровую эпоху». Такая тема была выбрана в этом году для традиционного делового завтрака, организованного Сбербанком в рамках Всемирного экономического форума в Давосе.

Тема более чем актуальная. Инновации и цифровые технологии стали напрямую влиять на образ жизни человека, на его профессиональные стратегии. Дело в том, что человеческий мозг не успевает за потоком информации и это создает проблемы для всех. Для самих людей, для экономики, бизнеса, для правительств.

Как приспособиться к новым цифровым реалиям и стать успешным? Этот вопрос перед участниками «завтрака» поставил его модератор, глава Сбербанка Герман Греф.

От Гутенберга к Цукербергу и Ким Кардашьян

Греф отметил, что сейчас у людей становится все «больше выбора и все меньше определенности». И непонятно, как оставаться востребованным в этом мире?

Первым попытался ответить на этот вопрос научный руководитель Лаборатории нейронаук и поведения человека Сбербанка Андрей Курпатов. Для начала он сделал обзор исследований, которые дают представление о зависимости человека от цифровых технологий. Оказалось, что эта зависимость фатальная.

Курпатов показал на слайде две картинки. На одной текст научной статьи с цифрами и графиками, на второй – Instagram попдивы Ким Кардашьян во всех позах. На какой из картинок вы заострили свое внимание, задал вопрос эксперт. В ответ раздался смех: понятно, на какой, дали понять присутствующие.

Больше в этом зале смеха не было, поскольку то, что далее рассказал Курпатов шокировало.

Мозг так устроен, что всегда выбирает то, что проще. Картинка проще текста. Поэтому все внимательно посмотрели на фотки Карадашьян. А текстом статьи не заинтересовались. Вот таким путем человечество сейчас и развивается: от системного книжного мышления к простым образам, к визуализации всего и вся.

При этом массмедиа соревнуются друг с другом на предмет того, как сделать контент как можно более простым для усвоения.

«Мы наблюдаем эскалацию примитивного контента и переживаем фундаментальную трансформацию — переезжаем из галактики Гутенберга в галактику Цукерберга. Из цивилизации системного мышления переходим в цивилизацию зрительных образов, где нет места аналитическому мышлению», — сказал Курпатов.

Мир спасут 23 минуты

По данным одного из исследований, которое привел Курпатов, в США примерно 40% детей в возрасте до 10 лет постоянно находятся онлайн. К подростковому возрасту этот показатель вырастает до 70%. При этом мозг, который массированно получает новую информацию, не развивается, он уходит в спячку.

Человеческому мозгу необходимо, как минимум, 23 минуты, чтобы осмыслить новое, переварить информацию и тогда от нее будет польза.

Тогда она может стать новым знанием, новым профессиональным навыком. Но, по данным исследования, среднестатистический человек в течение дня прерывается на осмысление информации не более чем на 15 минут.

В результате человечество сейчас, по сути переживает «эпидемию цифрового аутизма», считает эксперт.

Это состояние, при котором люди настроены на гедонизм, на получение легкого удовольствия, но не в состоянии выстраивать отношения с реальностью, интересоваться внутренним миром друг друга, молодые пары приходят на свидание и вместо живого общения сидят за просмотром смартфонов», — считает Курпатов.

Контакт со смартфоном или другим гаджетом длительностью более 2,5-3 часов в день усиливает депрессию и суицидальные мысли, ощущение собственного несовершенства, отмечает Курпатов. «У вас увеличиваются объемы оперативной памяти и подвижность интеллекта, когда смартфон находится в другой комнате, а не рядом на столе. И наоборот, вы глупеете, когда смартфон рядом с вами. Это доказали опыты», — говорил Курпатов.

Такая тенденция ведет не только к тому, что мир разделяется на богатых и бедных, «но и на глупых и умных». Он призвал соблюдать «цифровую гигиену», то есть, ограничивать свое нахождение в интернете, защищаться от обилия неосмысленной информации.

Эту проблему подтвердила и Наире Вудс, декан Школы госуправления имени Блаватника в Оксфордском университете. Она сообщила, что в Оксфорде учатся «самые умные», но здесь как раз распространены случаи суицида, много тех, кто страдает от избытка знаний. Вот к чему приводит цифровая трансформация общества.

Причем информационная лавина стала негативно влиять на качество учебы. «Наши студенты умеют одновременно покупать себе ботинки на «Амазоне» и слушать лекцию, в итоге и знания не получают и ботинки не те выбирают», — сокрушалась госпожа Вудс.

Только покойники не знают эджайла

В эпоху цифровизации людям необходима гибкость мышления, то, что называется, эджайл, agile, считает Сьюзан Дэвид, содиректор Института коучинга Гарвардской медицинской школы. Она сообщила, что «эмоциональная гибкость» — это ключ к успеху. «Не нужно боятся ошибок, не нужно бояться, что вы не получите повышения по карьерной лестнице или вам разобьют сердце отношения с мужчиной. Только мертвые не волнуются», — заключила коуч….

По оценкам Организации экономического сотрудничества и развития, более 1 млрд рабочих мест в мире уже в следующем десятилетии будут преобразованы под напором новых технологий.

В условиях четвертой промышленной революции, которая трансформирует рабочие места, необходимо будет провести Reskilling Revolution, переквалифицировать более 1 млрд человек к 2030 году, считает управляющий директор ВЭФ Саадия Захиди.

Сам Сбербанк тоже не избежит трансформации. В кулуарах форума Греф подтвердил, что контрольный пакет акций банка может перейти от ЦБ к правительству. Кроме того, он заявил, что покинет пост, если в случае смены главного акционера изменится стратегия развития банка.

https://www.gazeta.ru/business/2020/01/23/12924236.shtml

Угроза для всех? Чем обернется всеобщая цифровизация россиян

Сможет ли государство уберечь «ключи шифрования» и данные россиян

«Газета.Ru» 04.06.2019, 15:35

Вице-премьер Максим Акимов сообщил, что уже летом текущего года будет принято принципиальное решение о внедрении электронных паспортов для россиян. Такие паспорта будут либо пластиковые с чипом, либо пластиковые, но без чипа. В любом случае все «общение» человека с государством будет происходить в облаке. Чем это обернется для простых граждан? Не страшно ли?

Электронная паспортизация станет, надо полагать, частью Единой системы идентификации и аутентификации (ЕСИА). Биометрический профиль в ЕСИА придется создать, если вы хотите получать комплексные госуслуги. А если не создадите, то, выходит, не получите. Не ущемление ли это прав граждан?

А затем, по мере получения электронных паспортов все общение с государством перейдет в «облачные технологии»: у вас будет не только такой электронный паспорт, биометрический идентификатор, привязанный к вашей фотографии, но также некий QR-код, который тоже позволяет вас идентифицировать. Для государства с его системами тотальной слежки вы будете ходить как бы с собственной фамилией, именем и прочими данными, написанными у вас на лбу. К этим идентификаторам будут «привязаны» все ваши документы – от полиса медстрахования до водительских прав.

Акимов также привел в пример Индию, где пошли по пути идентификации по «полной биометрии».

Правда, там и процент ошибок пока составляет внушительные 18%. А что, если у нас будет такой же? А что, если ваши данные в «облаке» кто-то украдет? При посредничестве имеющих доступ к ним чиновников? Вы уверены, что это в нашей стране совершенно невозможно? Так стоит ли спешить с электронной паспортизацией?

Интервью Акимова совпало по времени с довольно громким «цифровым скандалом», разгорающимся именно в эти дни. Все началось с того, что некий москвич случайно обнаружил, что его квартира на Тверской была продана, а платежки по ЖКХ переписаны на другое имя. Оказалось, что кто-то подделал его цифровую подпись, которую он к тому же вообще не получал. Дело тянется уже не первый месяц, и покупатели пока еще не признаны мошенниками, а квартира не возвращена. Оказалось, что подделка цифровой подписи (а закону-то – всего-ничего по времени) – не единый случай. Их выдают сертификационные центры, коих по стране несколько сотен.

Оказывается, определить, кто и на каком основании ее выдал совершенно посторонним людям и без вашего ведома, весьма затруднительно, а завести по этому поводу уголовное дело – еще затруднительнее.

Оказывается, единой базы цифровых подписей, чтобы узнать, есть она у вас вообще и не получил ли ее кто-то за вас, нет возможности. Это вообще как!? При этом посредством цифровой подписи, в том числе поддельной, можно купить и продать квартиру, зарегистрировать бизнес и набрать на него кредитов.

В Думе спохватились и «чешут репу», как бы теперь поменять принятый в свое время закон. Это к вопросу о качестве «цифровых законов» и их проработки. А раньше подумать нельзя было? Пока решения никакого нет. Решения нет, а правительство уже спешит на следующую станцию прогресса – к электронным паспортам. Чтобы бодро отрапортовать о проделанной титанической работе по оцифровке страны.

А если эти электронные паспорта тоже начнут массово подделывать? А если вашими данными, хранящимися якобы на «облаке», начнут торговать на перекрестках на земле? Кто даст гарантию, что это невозможно в нашей стране, где чуть ли не каждый новый закон проходит обкатку «первым блином», который почти всегда – комом?

При этом россиян уже терроризируют рекламщики разного пошиба, предлагающие то обследование позвоночника, то торговлю на бирже и объясняющие получение вашего номера телефона из мифической «базы».

Ссылка на пример Индии с ее 18% ошибок, честно говоря, пугает. Это что, и наш неизбежный этап на пути к цифровому прогрессу? Дело в том, что технологии распознавания, в том числе по лицам, еще далеки от полного совершенства. Известно, что даже современные камеры, например, не умеют всегда точно идентифицировать лица разных рас, цвета кожи и национальностей, будучи настроенными на «доминирующую расу».

Мало того, что граждан, скорее всего, обременят тем, чтобы снова заполнять какие-то анкеты, сдавать цифровые фотографии, отпечатки пальцев и пр. Так еще никто при этом пока не спешит погасить обывательские страхи по поводу того, что все это может сработать против вас. Хорошо конечно, что ЕСИА поможет пользоваться комплексно госуслугами. Но почему бы уже сейчас имеющийся сервис не довести до ума? Например, ваш профиль на госуслугах вовсе не «переползает» автоматически на портал Росреестра, и там все надо заполнять заново. Многие другие порталы государственных ведомств работают медленно, с перебоями и ошибками. Надо по-прежнему ждать ответов на ваши вопросы и запросы 30 дней. Они там голубиной почтой что ли пересылают эти запросы?

Наши чиновники стремительно движутся по пути цифровизации всего и вся, однако в столь стремительном марш-броске оголяют тылы, оставляют за собой «раненых» и «обоз» в виде страдающих от недоработок и подчас «кривого софта» пользователей.

До сих пор вылезают многочисленные «косяки» в процессе воплощения в жизнь известного «пакета Яровой». Государство все никак не может признать, что пакет этот в своем буквальном и максимальном претворении в жизнь – вредный, ошибочный, а местами так просто бредовый, противоречащий самому духу новой «цифровой эры».

Закон сплошь и рядом трактуется спецслужбами расширительно в целях облегчения собственной работы. Вот, например, ФСБ недавно якобы потребовала от «Яндекса» предоставить ключи шифрования к переписке пользователей. «Яндекс» входит в реестр организаторов распространения информации, обязанных сотрудничать со спецслужбами подобным образом, однако пока передавать ключи не спешит. Во всяком случае в положенный 10-дневный срок компания уже не уложилась.

Речь идет о том, что ФСБ, по сути, хочет такие ключи, которые дадут доступ не только, например, к сообщениям в электронной почте, но и позволят анализировать весь трафик от пользователей к другим сервисам «Яндекса» и вообще читать всю почту всех пользователей. Спецслужбы также не хотят каждый раз запрашивать решения суда по конкретным пользователям (притом, что в прошлом году суды выдали более 800 тысяч разрешений на нарушение тайны переписки граждан).

В случае непредоставления ключей «Яндекс», по законам Яровой и Ко, должен быть заблокирован на территории РФ, что попытались проделать с мессенджером Telegram.

Вообще было бы даже хорошо, если бы это и произошло на самом деле и «Яндекс» в России действительно оказался бы заблокированным. Все лучше доводить до логического конца, тем более в случаях, когда надо наглядно показать и убедиться в том, что этот «логический конец» абсурден по самой своей сути.

Одновременно Роскомнадзор внес портал знакомств Tinder в реестр организаторов распространения информации. На практике это тоже означает, что Tinder будет обязан предоставить ФСБ и другим российским спецслужбам личную переписку пользователей, если в этом возникнет необходимость. Пока Tinder сообщил, что не передавал какие-либо данные пользователей правоохранительным органам, однако полной ясности насчет будущих действий нет. Не предоставят – тоже будут заблокированы. И что-то подсказывает, что резонанс в этом случае будет похлеще, чем в случае оказавшихся неудачными попыток заблокировать Telegram. А если предоставят ключи на условиях спецслужб, то где гарантия, что интимная переписка на этом портале не будет слита в открытый доступ на потеху публике?

Во всяком случае еще неизвестно ни одного случая наказания и приведения к ответственности соответствующих ведомств, конкретных чиновников и тем более представителей спецслужб по случаю таких «сливов», число которых множится с каждым днем.

https://www.gazeta.ru/comments/2019/06/04_e_12393871.shtml?utm_source=push

Власти и корпорации строят все более совершенные системы распознавания лиц — они особенно опасны в условиях репрессий

 Как помешать им вас идентифицировать? 

 9 марта 2024,  Andrey Rudakov

 Бурный прогресс алгоритмов искусственного интеллекта все чаще приводит к тому, что нарушается приватность пользователей в реальном мире. Связано это с растущей эффективностью систем распознавания лиц. Их могут использовать в относительно безобидных маркетинговых целях корпорации (например, когда соцсети собирают ваши фотографии в рамках очередного флэшмоба «покажите, как вы выглядели в 18 лет / 10 лет назад и т. п.») и в репрессивных — власти, которые с помощью камер видеонаблюдения вычисляют участников уличных акций протеста. Ученые не первый год бьются над задачей противостояния нежелательному распознаванию лиц — но пока не смогли изобрести инструмент надежной защиты. Мы решили изучить, как устроены системы, которые все чаще несут в себе не благо, а угрозу, какие методы борьбы с ними известны — и почему ни один из этих методов не назовешь идеальным.

Чтобы понять, как бороться с системами распознавания лиц, нужно сперва разобраться с тем, как они работают

…Теперь — о том, как можно бороться с распознаванием лиц (на любом из этапов, описанных в первой главе)

Контроль соцсетей и борьба с видеокамерами…

Маски и футболки…

«Отравление» нейросети…

«Замусоривание» поисковой выдачи…

Макияж и снова «отравление»…

Все перечисленные варианты защиты от распознавания лиц не гарантируют 100-процентный результат. А что должно гарантировать?...

https://meduza.io/feature/2024/03/09/vlasti-i-korporatsii-stroyat-vse-bolee-sovershennye-sistemy-

 

  The New York Times рассказала о новых способах слежки за россиянами

Но будьте осторожны — ФСБ и другие силовики знают о нас очень много

 5 июля 2023, Евгений Фельдман

 Что случилось? 

 Газета The New York Times (NYT) 3 июля опубликовала материал о методах слежки за сетевой активностью россиян, которые, по данным источников издания, использует Федеральная служба безопасности (ФСБ). Основана статья на «сотнях файлов» от инсайдера в неназванной компании или организации. В материале описываются инструменты, разработанные внутри российской компании «Цитадель» и ее дочерней компании «МФИ Софт» (MFI Soft).

В частности, широкий резонанс вызвало упоминание продукта «МФИ Софт» — программы NetBeholder, которая якобы позволяет спецслужбе собирать большой объем информации о пользователях Telegram, WhatsApp и Signal. Многие СМИ интерпретировали статью NYT именно как расследование, вскрывшее методы слежки за аудиторией популярных мессенджеров. Однако в реальности об этих методах было известно и ранее. Разберемся подробнее с тем, что важно знать о нашумевшем материале и какие меры предосторожности в связи с угрозой слежки стоит предпринять.

Так какие виды слежки разработали компании из статьи The New York Times?

По данным The New York Times, NetBeholder умеет показывать силовикам местонахождение двух телефонов рядом на протяжении дня. Это позволяет предположить, что оба телефона (и номера, и устройства) принадлежат одному и тому же человеку. Более того, программа знает, находятся ли телефоны вместе постоянно или только какое-то время. Журналисты считают, что благодаря этому ФСБ получает информацию о том, что два человека встречались в течение дня. В NetBeholder даже якобы есть опция, позволяющая узнать, из какого региона РФ конкретный пользователь (или из какой страны, если это иностранец).

Также, по информации NYT, программа показывает, когда один пользователь отправляет другому файл или звонит через WhatsApp, Signal или Telegram. Эта функция осуществляется с помощью технологий DPI (deep-packet inspection — глубокой проверки пакетов трафика с целью их регулирования или фильтрации). «Это дает ФСБ доступ к важным метаданным, которые показывают, кто и с кем говорит и переписывается, когда и где это происходит, а также были ли к сообщению прикреплены файлы», — говорится в статье. NYT отмечает, что раньше для получения такой информации органы правопорядка обращались к владельцам сервисов — и те в свою очередь решали, предоставлять ли данные силовикам. При этом важно понимать, что речь идет только о метаданных, а не о содержании переданных файлов и звонков.

Другие программы, описание которых получила американская газета, переводят перехваченные телефонные разговоры в текст, собирают пароли, которые вводятся на незашифрованных сайтах, и даже взламывают аккаунты и идентифицируют анонимных пользователей. Подробностей того, как все эти технологии работают и как ими пользуется ФСБ, NYT не приводит.

Чем известна программа NetBeholder и его разработчик

УЗНАТЬ

Так что, есть ли в этих методах слежки что-то новое? Разве о том, что ФСБ следит за всеми россиянами в сети, не было известно раньше?

Короткий ответ — да, это было известно. И действительно, в расследовании NYT не говорится ничего нового.

Прослушивать телефонные разговоры российские силовики могут еще с 1996 года — с помощью системы «СОРМ-1» («Система оперативно-розыскных мероприятий»).

В 2016 году вступил в силу так называемый «пакет Яровой». По нему провайдеры связи обязаны хранить полугодовые архивы звонков и сообщений абонентов и архив тех самых метаданных о передаче сообщений и звонков за три года. Операторы беспрекословно предоставляют эту информацию ФСБ по требованию, поэтому в факте существования ПО для получения этой информации нет ничего удивительного. Например, если ФСБ захочет узнать обо всех случаях, когда вы вообще заходили в интернет и какие сайты посещали (в частности, заходили ли вы на серверы, связанные с WhatsApp или Telegram) — служба легко сделает это, запросив данные у вашего провайдера, который не имеет права ей отказать. Фактически благодаря «пакету Яровой» провайдер обязан следить за всеми вашими перемещениями в сети и сообщать о них силовикам по первому требованию. Если, конечно, вы не пользуетесь VPN: тогда провайдер сможет поделиться со спецслужбами меньшим объемом информации — например, IP-адресом вашего VPN-сервера.

The New York Times указывает, что ФСБ имеет доступ только к информации о передаче сообщений между абонентами, но не к сути сообщений, переданных в шифрованных мессенджерах. Это, в общем, тоже не новость. Хотя по «пакету Яровой» мессенджеры должны были по требованию передать ФСБ ключи шифрования, ни WhatsApp, ни Signal, ни Telegram — во всяком случае, официально — этого не делали. Да и, скорее всего, не могли: в WhatsApp и Signal по умолчанию применяется оконечное (или сквозное) шифрование (end-to-end encryption), то есть ключи друг друга знают только сами пользователи. В Telegram такое шифрование доступно в «секретных чатах», которыми из-за неудобства мало кто пользуется. Но мессенджер применяет собственный криптографический протокол MTProto — и его основатель Павел Дуров заверял, что это эффективный способ не просто держать архив сообщений пользователя в тайне, но и ограничивать доступ к данным для сотрудников Telegram. Впрочем, многие эксперты по кибербезопасности все равно критикуют Telegram за отказ от оконечного шифрования по умолчанию.

Для досмотра и контроля трафика пользователей российские власти используют упомянутую в статье The New York Times технологию DPI. Оборудование для этих целей стоит на инфраструктуре всех ключевых провайдеров, но, как правило, DPI используют для замедления работы конкретных сайтов и сервисов. Например, с помощью технологии замедляли Twitter (посты у пользователей в России загружались с трудом, а фото и видео не загружались совсем), ограничивали доступ к Google-документам и «Умному голосованию». Это происходило без внесения сайтов в реестр запрещенных — просто по воле регулятора и без каких-либо предупреждений.

Для сбора же метаданных о поведении конкретных пользователей и тем более определения того, пересылал ли один пользователь другому какие-то файлы, DPI обычно не применяется. Однако в теории, даже если вы пользуетесь обычным прокси-сервисом, с помощью DPI можно увидеть, что вы передавали сообщения в мессенджере или совершали в нем голосовые звонки. Получить доступ к содержимому звонков технология все еще не дает — по крайней мере, если мессенджер не передаст ФСБ ключи шифрования. «Оператор действительно может по характерным признакам трафика определить, происходил ли созвон или текстовая переписка между определенными IP-адресами, но внутрь заглянуть он не может, если у мессенджера есть функция шифрования. Затрудняет получение данных, если IP находятся за границей, поэтому включение VPN здесь может помочь сбить с толку того, кто решил за вами последить», — советуют эксперты «Роскомсвободы».

С 1 июля интернет-компании будут хранить нашу переписку и передавать ее спецслужбам. «ВКонтакте» будет? А Viber? А фейсбук?

 А что насчет слежки за телефонами — ФСБ и правда знает, где физически находится мое устройство?

Да, но описанная в статье технология отслеживания людей по телефонам тоже не новость, силовики применяют ее давно. Более того, сведения о вашей геолокации, «добытой» через устройство, за относительно небольшую сумму может (во всяком случае, мог до недавнего времени) приобрести любой человек. Это в 2019 году в ходе редакционного эксперимента «Русской службы Би-би-си» показал журналист Андрей Захаров. Менее чем за 10 тысяч рублей он купил у сотрудников оператора сотовой связи информацию о местоположении телефона своей родственницы в моменты вызовов на протяжении целого месяца. Координаты выставлялись по адресам ближайших сотовых вышек.

Известное расследование Bellingcat о том, кто отравил Алексея Навального, было сделано с использованием таких же данных, купленных на черном рынке. Подобные же данные использовали «Медиазона» и Scanner Project, которые восстановили хронологию передвижений участников убийства Бориса Немцова. У силовиков, конечно же, есть к таким данным бесплатный доступ.

Для того чтобы определить, где бывают конкретные люди, расследователи триангулируют данные станций. Как они это делают, рассказывал в интервью «Медузе» Христо Грозев:

В биллингах в данных на каждый звонок или подключение к интернету указана еще и базовая станция [сотового оператора], к которой телефон в этот момент был привязан. Если человек часто бывает в одном и том же районе, то он, скорее всего, подключался сразу к нескольким базовым станциям: например, одна из-за непогоды начала работать похуже — и мобильник просто перебросило на другую.

И если ты находишь в биллингах две, а лучше три разных базовых станции, к которым говорящий подключался, то ты решаешь упражнение чисто из школьного курса — вычисляешь триангуляцию.

Последний резонансный эпизод с предполагаемым использованием технологии — задержание в марте в Беларуси Алексея Москалева, сбежавшего из России накануне приговора по делу о «дискредитации» армии. Источники утверждали, что найти его силовикам удалось после того, как он включил свой мобильный телефон.

А если я звоню не по сотовой связи, а через Telegram, WhatsApp или Signal — силовики узнают, где я?

При звонках через приложение по умолчанию используется технология peer-to-peer (p2p). Грубо говоря, это означает, что между IP-адресами пользователей устанавливается канал связи напрямую. С помощью нехитрой программы для анализа трафика вы можете сами узнать, какой IP-адрес у вашего собеседника, а он — какой у вас.

Поэтому в теории если спецслужба запросит у вашего провайдера, с какими адресами вы связывались через онлайн-звонки, а потом ту же информацию — у провайдеров ваших собеседников, то она, скорее всего, сможет узнать, кому вы звонили. Понятно, что такая операция скорее осуществима, если речь идет о слежке за конкретным пользователем. Постоянно проворачивать эту схему для десятков миллионов пользователей едва ли возможно.

И деанонимизировать пользователей ФСБ тоже умеет?

Это зависит от того, каким анонимным мессенджером или почтой вы пользуетесь, но в целом — увы, может.

Если вы пользуетесь Signal или WhatsApp, привязанными к российскому номеру телефона, — деанонимизировать вас проще простого. Можно сказать, что вы зарегистрировались в этих сервисах «по паспорту» — ведь для покупки номера вы дали паспортные данные, а у ФСБ есть доступ к данным операторов сотовой связи. Если у вас номер, который куплен в другой стране и который вы больше нигде не указывали, — раскрыть вашу личность уже сложнее (особенно если вы купили номер в стране типа Грузии, Кипра или Хорватии, где сим-карты продаются без паспорта).

В Telegram для идентификации пользователя используется созданный самим сервисом ID, который связывается с номером телефона, на который зарегистрирован аккаунт. Даже если вы скроете номер сразу после регистрации, в теории вас все еще можно будет найти через сервисы типа «Глаз Бога». Такими же базами данных — содержащими телефонный номер, Telegram ID и всю остальную информацию, известную о пользователе через его номер телефона и часто полученную из хакерских «сливов», — пользуются и силовики. Например, еще в 2021 году «Ростех» для использования в МВД купил разработку петербургской IT-компании T.Hunter. «Следователь сможет загрузить в систему имейл или номер телефона подозреваемого, а программный комплекс, используя этот фрагмент, сопоставит с ним массивы данных: IP-адреса, информацию из платежных систем и рекламные идентификаторы — более 40 параметров», — рассказывал «Коммерсанту» менеджер компании-разработчика Игорь Бедеров. О том, как это работает на практике для вычисления и ареста активистов, рассказывал в своем YouTube-канале проект бывших белорусских силовиков BYPOL, расследующий репрессии в Беларуси.

Ну и напоследок — как можно обезопасить себя от слежки в интернете?

Главный совет, который во многом обезопасит вас от угрозы слежки, звучит просто: используйте VPN. Да, всегда. Желательно использовать сервис, который не просто подменяет ваш IP-адрес, чтобы вы могли заходить на заблокированные сайты, но и использует более хитрые алгоритмы обхода цензуры.

• Обратите, к примеру, внимание на Amnezia VPN — вам придется самостоятельно купить место на сервере, чтобы его настроить, и это звучит немного сложно, но, к счастью, создатели сервиса написали максимально подробные инструкции по настройке и выбору сервера. А в чате Amnezia можно проконсультироваться, если что-то пойдет не так.
• Пока еще не заблокирован в России RedShield VPN — платный сервис, который использует много способов обхода блокировок и маскировки трафика.
• Xeovo VPN — также коммерческий VPN-сервис, предоставляющий возможность настройки устойчивых к DPI протоколов.

Если вы пользуетесь Telegram, перечитайте эту инструкцию «Медузы» о том, как делать это более безопасно. И уберите в настройках возможность peer-to-peer звонков от людей, которые не добавлены в ваши контакты.

А для чувствительных переписок — если у вас такие есть — лучше выбирайте другие мессенджеры. От Signal — если, конечно, у вас есть номер телефона, не привязанный к вашим паспортным данным, — до Briar, в котором для общения по зашифрованному каналу вообще не нужен номер телефона.

https://meduza.io/feature/2023/07/05/the-new-york-times-rasskazala-o-novyh-sposobah-slezhki-za-rossiyanami-na-samom-dele-nichego-novogo-v-nih-net

10 марта 2021

Биометрические данные россиян захотели собирать активнее

В Минцифры планируют активизировать процесс сбора биометрических данных россиян. Об этом пишет «Коммерсантъ» со ссылкой на три источника.

В ведомстве рассчитывают увеличить число записей в Единой биометрической системе (ЕБС) до 70 миллионов. При этом сейчас в ней имеется всего 164 тысячи записей.

По информации издания, в Минцифры прошло совещание, на котором прозвучала идея поспособствовать заполнению базы ЕБС «административными мерами». В частности, для россиян предложили закрыть удаленный доступ к ряду госуслуг при отсутствии биометрии. При этом в случае передачи таких данных граждане смогут, например, проводить оплату «по лицу», получать услуги нотариуса или дистанционно сдавать промежуточные экзамены в вузах.

На данный момент биометрические данные могут собирать только кредитные организации. Для расширения базы этой функцией предложили наделить отделения МФЦ, также должно появиться специальное мобильное приложение.

Опрошенные газетой эксперты с сомнением отнеслись к этой инициативе. В частности, они указали на угрозу утечки биометрических данных и их использование в противозаконных целях.

17 февраля Министерство транспорта предложило массово внедрять биометрию в российских аэропортах. Согласно программе, к концу 2023 года биометрию для идентификации пассажиров и искусственный интеллект при обработке данных «для упрощения транспортных процедур» должны будут использовать шесть процентов российских аэропортов. При дополнительном финансировании эта доля может увеличиться до 15 процентов…:

https://lenta.ru/news/2021/03/10/biometr/

Как устроена «хай-тек-каторга» председателя Си

Даррен Байлер (Darren Byler “In the Camps: China's High-Tech Penal Colony”)

Сегодня в Китае действует самая масштабная, самая эффективная и самая всеобъемлющая система наблюдения в мире, пишет Даррен Байлер, автор только что вышедшей по-английски книги «В лагерях: Китай как высокотехнологичная исправительная колония».

На северо-западе КНР подробные личные данные каждого местного жителя уйгурского или казахского происхождения, вплоть до образцов ДНК и скана радужной оболочки, собираются и вносятся в систему, которая передает информацию в полицейские контрольно-пропускные пункты, расположенные в городах на расстоянии нескольких сотен метров друг от друга.

Алгоритмы системы отправляют в «центры перевоспитания» сотни тысяч, если не миллионы местных мусульман. Книга Байлера наглядно демонстрирует, как самые неправдоподобные сценарии голливудских антиутопий категории «Б» могут воплотиться в отвратительную реальность.

«В лагерях» — очередная достойная новинка прекрасной серии Columbia Global Reports; впрочем, в этом проекте, по мнению книжного обозревателя Дэвида Вайнберга, вообще нет ни одной слабой книги.

…Даррен Байлер смог взять для ⁠книги несколько интервью у тех, кто прошел через ⁠эти центры, но потом сумел покинуть Синьцзян. Кое-кто ⁠уехал в Казахстан, а кто-то сумел даже добраться до США. Среди собеседников ⁠Байлера — молодая женщина, изучающая городское планирование в США и приехавшая ⁠домой на каникулы, ⁠по глупости полагая, что у нее, обладательницы американской ⁠студенческой визы, есть иммунитет от преследования. Животновод из Казахстана, которому надо было уладить кое-какие дела в Синьцзяне, прежде чем снова вернуться на родину. Учительница, которой предложили работу в «центре перевоспитания» — предложение, от которого невозможно было отказаться, — и она вскоре ощутила себя такой же связанной по рукам и ногам, как и ее «ученики».

Эти рассказы как две капли воды похожи на другие истории из Синьцзяна, о которых мне уже приходилось читать (и писать), — истории, в которых невыносимое давление и самые изощренные физические и психологические пытки составляют повседневную рутину реальности. В подлинности этих рассказов давно уж нет никаких сомнений — как и в том, что люди, пережившие «перевоспитание» Си Цзиньпина, чувствуют себя сломленными и, как правило, уже не могут вернуться к нормальной жизни. Но из книги Байлера мы узнаем, что и многие ханьцы, проживающие в Синьцзяне, испытывают те же чувства.

Все начинается с тотального наблюдения. Представители всех этнических групп в Синьцзяне должны пройти «медицинский осмотр», в ходе которого человека множество раз фотографируют с разных ракурсов, сканируют радужную оболочку глаз, берут у него образцы ДНК и отпечатки пальцев. Кроме того, полиция полностью скачивает все содержимое вашего телефона, включая список контактов, переписку, полученные файлы и посты в социальных сетях. Все это помещается в гигантскую базу данных, разработанную с помощью американской компании Palantir; в случае необходимости информацию можно мгновенно (за доли секунды) извлечь из базы.

Если программа распознавания лиц сообщает, что тот или иной местный мусульманин зачем-то идет по улице за пределами района своего постоянного проживания, один из вездесущих полицейских патрулей наверняка задержит «нарушителя». Это первый шаг к тому, чтобы гражданин был заподозрен в «действиях, ведущих к преступлению» (pre-criminal activity), и отправлен в «центр перевоспитания», где его жизнь будет полностью сломана. Кто же становится таким подозреваемым? Байлер пишет:

«Китайские власти распространили список, в котором перечислены 25 официальных признаков «исламского экстремизма». В список входят такие провинности, как хранение файлов с текстами и изображениями религиозного характера, использование VPN, установка WhatsApp…. Всё это отнесено к категории «действий, ведущих к преступлению», которые автоматически влекут за собой арест».

Арестованные содержатся в камерах вместимостью до 60 человек, с одной на всех парашей, которую каждый заключенный может использовать не дольше 60 секунд, и с койками, разделенными перегородками. «Перевоспитуемым» запрещено разговаривать между собой или обращаться к надзирателям; они могут лишь отвечать на вопросы последних, причем исключительно на мандаринском китайском (которым многие местные жители не владеют). До десяти видеокамер в каждом помещении следят за любым движением заключенных, за каждым лишним словом следует грубый окрик по громкой связи.

В душ обитателей камер выводят раз в неделю, всех 60 человек разом, причем в душевой работает всего пять или шесть кранов, а на мытье отводится лишь 10 минут, так что принять душ удается лишь самым ловким. В результате в камерах стоит постоянная вонь, тем более что постельное белье в «центрах перевоспитания» меняют лишь раз в несколько месяцев — или тогда, когда обслуживающий персонал уже не в силах переносить зловоние.

На занятиях «перевоспитуемые» обязаны изучать мандаринский китайский, затверживать наизусть тексты патриотических песен и высказывания Си Цзиньпина и при этом демонстрировать бодрость и огромный энтузиазм, чтобы избежать побоев. Никакого общения, никакого отдыха — и вдобавок мучительный голод, потому что обед состоит из пары вареных пельменей и водянистого супа.

Когда (и если) кто-то из «перевоспитуемых» выходит на свободу, он обязан жить лишь в том же районе, в котором жил до ареста, и за каждым его движением будут следить соседи — «добровольные» помощники полиции. Отсидевший должен постоянно отмечаться в полиции, отчитываться там о своем поведении, обязательно присутствовать на церемонии поднятия флага утром в понедельник, а также как можно чаще публично и неистово признаваться в любви к Коммунистической партии и лично товарищу Си Цзиньпину.

Полиция в буквальном смысле слова управляет жизнью каждого местного жителя в Синьцзяне. Я читал в других книгах, что нередки случаи, когда в уйгурских домах, пока их обитатели на работе, полиция устанавливает камеры с микрофонами, чтобы в любое время видеть и слышать все, что происходит в доме, и прикрикивать на жильцов, если они ведут себя «неправильно» — например, говорят по-уйгурски или по-казахски, а тем более тайно молятся. Вы не курите? Не употребляете алкоголь? Значит, вы уже подозрительны. Не менее подозрительна и ваша попытка поговорить с кем-то из членов вашей семьи наедине.

Но вот в чем важное отличие книги Байлера: он впервые (во всяком случае, я такого нигде не читал) рассказывает, что многие сотрудники «центров перевоспитания» всерьез недовольны, можно сказать, оскорблены собственной работой, поскольку прекрасно понимают, что единственное преступление их поднадзорных заключается в том, что они не ханьцы.

Надзиратели также обязаны демонстрировать горячую любовь к Си Цзиньпину и Коммунистической партии. При избиениях надлежит проявлять рвение и энтузиазм, и чем громче вы кричите на заключенного, чем больше его унижаете, тем лучшее впечатление вы произведете на вашего непосредственного начальника. В руках у вас метровая дубинка и вы обязаны постоянно пускать ее в ход. Обычный прием — приказать «перевоспитуемому» сесть на корточки, а затем изо всех сил ударить его дубинкой по ягодицам: тогда несчастный точно не сможет ровно сидеть на стуле во время многочасовых занятий, а у вас появится повод для новых избиений.

При этом охранники не имеют права просто уволиться. Более того, если они посмеют жаловаться или протестовать, то легко превратятся из надзирателей в заключенных. Один служащий низшего звена думал, что нашел отличную работу с достаточной зарплатой, чтобы прокормить семью, но вскоре, по его словам, «обнаружил себя в западне». Он рассказывал Байлеру:

«Когда мы жаловались, что устали и хотим уволиться, нам говорили: «Если вы устали, то вы можете уйти в отпуск, но потом должны вернуться. А если вы бросите работу, то сами окажетесь в камере центра перевоспитания»».

На всех уровнях система работает на страхе. Каждый обязан быть гордым националистом и демонстрировать «восторженную жестокость» по отношению к нижестоящим, будь то подчиненные или заключенные. По словам Байлера, Си Цзиньпин «построил общество, в котором каждый подозрителен, каждый находится под наблюдением, общество, в котором малейшее проявление человечности рассматривается как серьезное преступление, заслуживающее наказания». https://republic.ru/posts/101977

00:04, 22 августа 2019

Большой китайский брат

Как устроена самая мощная в мире система тотального контроля за населением

…То, о чем мечтали авторитарные правители всех времен и народов, свершилось! Теперь можно следить за каждым, знать, во сколько человек пришел на работу, кому перевел деньги, что заказал на обед и сколько граммов морской капусты купил в супермаркете. Нужна ли властям вся та информация, которую собирает великая и ужасная система, и что, собственно, они намерены с ней делать? Кто-то считает, что сбор таких данных — прямой путь к установлению тотального контроля над гражданами и полной потере свободы действий. Другие видят в ней спасение от роста преступности и других напастей современного общества. Третьи находят, что система способна дополнительно облегчить человеку жизнь в эпоху глобальной информатизации.

«Система социального кредита» — лишь один из элементов системы социального менеджмента в Китае. Согласно официальным документам, она должна взрастить в китайцах честность, добропорядочность и повысить общий уровень культуры населения. Кроме того, ее цель — не запугать граждан тем, что все их действия заносятся в некую базу, и возмездие последует за любым проступком, а воспитать в них чувство ответственности и искренности, заставить действовать в соответствии с общепринятыми моральными установками. Несмотря на довольно безобидную и даже благородную мотивацию, устремления китайских властей считают максималистскими. И если большинство из них так и останутся на уровне деклараций, страна неминуемо превратится в подобие сериала «Черное зеркало».

Создание системы иногда связывают с усилившимся контролем за обществом после того, как председатель Си Цзиньпин пришел к власти в 2013 году. Однако Си далеко не первый, кто подумал о таком проекте.

Закон и порядок

Впервые о системе условных оценок заговорили еще в 1990-е, в разгар экономических преобразований, начатых Дэн Сяопином. Эти реформы стали наиболее удачным продолжением попыток модернизировать Китай, которые начались еще в конце XIX столетия. Тогда сторонники преобразований считали, что именно обязательный для всех закон — а не неограниченная имперская власть — должен стать решающим фактором дальнейшего развития страны.

Традиционно считалось, что император в Китае не только определенный Небом правитель, которому оно даровало свой мандат на власть. Его задача — не только править, но и устанавливать моральную планку для своих подопечных-подданных, быть для них примером и нравственным ориентиром. Другими словами, в Китае власть и мораль воспринимались как неотделимые друг от друга части портрета хорошего правителя. Ведь если власть имущие воруют и ведут непотребный образ жизни, то небесный мандат им иметь не положено.

Вопреки чаяниям первых реформаторов, для последующих правительств закон и порядок отошли на второй план, а на первый вышла необходимость удержаться у власти любой ценой. После окончания гражданской войны в 1949 году к власти в стране пришли коммунисты, за которыми осталось право не только определять, что законно, а что нет, но и устанавливать рамки дозволенного неписанными правилами культуры и морали. Спустя почти полвека, в 2014 году, на съезде КПК принцип управления государством на основе добродетели или морали уравняли с управлением на основе закона. Закон, в свою очередь, стал инструментом, с помощью которого власти могут взращивать в китайцах необходимые моральные качества. В общем, пазл сложился, и за правительством закрепился не только законный, но и морально-нравственный авторитет…

Знай свое место   

За 40 лет политики реформ и открытости благосостояние китайцев заметно улучшилось, такое преобразование позже окрестили «китайским чудом». На момент начала реформ в 1978 году уровень ВВП на душу населения в Китае составлял 156,5 доллара. Спустя 20 лет он увеличился более чем в 20 раз, а в 2017 году в среднем на каждого китайца приходилось уже 8,8 тысячи долларов от общего ВВП. Способов и возможностей заработать с годами также прибавилось, реформы коснулись не только экономики, но и образования и других сфер жизни. Все это укрепило уверенность властей в необходимости держать народ в узде и не давать желающим разбогатеть или сэкономить, свернув на путь обмана и коррупции…

А баллы где?

Большинство из того, что мы знаем о системе соцкредита в Китае, — информация из западных СМИ. Они представляют ее как оруэлльский кошмар, свершившуюся антиутопию и попытку установить информационную диктатуру над людьми. Однако сами китайцы, как выяснилось, так не думают. «Лента.ру» расспросила жительницу Китая по фамилии Цзин о том, что она и ее знакомые думают о нововведении…

…единой сети учета всех действий человека не существует, а ее появление пока еще плод воображения. Тем не менее, если такой системы нет сейчас, это совершенно не значит, что ее не будет в будущем…

Китайцев это не заботит

Информация о гражданах действительно коллекционируется и используется властями. В эпоху больших данных (big data) ее сбор делает статистику более точной, а крупным компаниям, например, позволяет влиять на внутреннее потребление.

…европейцы слишком чувствительно относятся к тому, что кто-то имеет доступ к их персональным данным. «Китайцев это так сильно не заботит, — говорит она, — по крайней мере большинство. Если ты не делаешь ничего плохого, то какая разница? Кто-то знает, где ты работаешь, кто-то — каким маршрутом возвращаешься домой, какой у тебя телефон и с кем ты дружишь в соцсетях. Это не секретная информация, мы же в любом случае выставляем ее напоказ. …

Как отмечает Роджер Кримерс из Лейденского университета Нидерландов, цель системы социального кредита — кибернетический контроль, отслеживание поведения людей и немедленное возмездие за совершение правонарушений. По мнению ученого, сравнение системы с антиутопией утрировано. Несмотря на то что звучит проект так, будто образуется единая мегасеть, отслеживающая всех и вся, на самом деле это более сложный и раздробленный механизм. …

В случае системы соцкредита власти могут столкнуться как минимум с тремя преградами на пути осуществления задуманного. Во-первых, китайцы вовсе не такие терпеливые, и в современной истории страны много случаев, когда местное и центральное правительство было вынуждено идти на уступки протестующим из-за непопулярных мер. Перед тем, как начать тотальную слежку, правительству необходимо будет обезопасить себя от возможного общественного недовольства. …

Вторым препятствием являются противоречия между различными структурами, которые занимаются сбором данных. Объединить различные ветви бюрократического аппарата одной программой для сбора и хранения данных, а также разработать адекватную систему наказаний намного сложнее, чем кажется. Не последнюю роль в создании такой системы играют и частные компании, а их отношения с государством не всегда гладкие.

Кроме того, систему будет весьма не просто реализовать чисто технически. Для начала необходимо удостовериться, что все поступающие данные достоверны, кроме того, базы данных госорганов и частных компаний должны формироваться по одинаковому стандарту. Вслед за этим возникает вопрос о единой системе обработки огромного массива информации.

…говорить о правительственном заговоре против собственных граждан или о механизме тотальной слежки за ними пока рано. Сейчас это всего лишь одна из множества попыток хоть как-то контролировать полуторамиллиардное население.

Но это пока: вполне возможно, что уже в ближайшем будущем, когда технологии станут более совершенными, сбор данных — повсеместным, а ведомства наладят информационный обмен, китайские власти попробуют превратить систему наблюдения, в систему контроля и подавления. А это, согласимся, вопрос времени и политической воли.    

  Софья Мельничук

https://lenta.ru/articles/2019/08/22/credit/

Китай продвигает противоречивую систему социального кредита

Москва, 18 сентября - "Вести.Экономика". Китай быстро продвигает свои планы по созданию противоречивой системы социального кредита, которая будет охватывать 33 млн компаний, пишет South China Morning Post.

Система социального кредита будет охватывать все коммерческие организации независимо от их размера. При определении социального рейтинга будут учитываться судебные решения, налоговые отчеты, вопросы охраны окружающей среды, государственное лицензирование, качество продукции, безопасность труда и административные наказания со стороны регуляторов рынка.
В документе, опубликованном в понедельник, Национальная комиссия по развитию и реформам (NDRC) заявила, что она завершила первоначальную оценку результатов рейтингования, которые теперь будут направлены обратно в местные органы власти для дальнейших проверок и обновлений.
Компании будут помечены как имеющие отличный, хороший, удовлетворительный или плохой социальный рейтинг, на основании чего правительство будет устанавливать различные степени надзора. Руководство компаний с плохим рейтингом будет вызвано местными чиновниками для подробного анализа, который будет включать планы по устранению проблем.
NDRC не уточнила методологию оценки рейтингов компаний, но отметила, что будет запрашивать отзывы общественности до конца октября. Ожидается, что все зарегистрированные в Китае фирмы и частные лица будут в конечном счете охвачены системой, которая будет официально запущена в конце 2020 г. Комиссия, однако, не сообщила, сколько иностранных и частных компаний было включено в текущую оценку.

ССЫЛКИ ПО ТЕМЕ

• Оруэлловская антиутопия близко. Китай первым реализует эффективный контроль через соцкредит?
• Цифровая диктатура: как система социального кредита управляет китайцами
• КНР создаст список "неблагонадежных" иностранных субъектов, которые наносят ущерб китайским компаниям

Заместитель председателя NDRC Лянь Вэйлян заявил, что оценка не будет использоваться непосредственно для наказания. Вместо этого наказания будут назначаться в соответствии с совместными меморандумами различных государственных учреждений, которые следуют "строгой процедуре".
"Все существующие меры стимулирования и наказания в рамках социального кредита, перечисленные в меморандумах, основаны на законах и нормативных актах, - отметил он. - За серьезные нарушения, особенно те, которые угрожают жизни и имуществу, будут приняты жесткие меры наказания, такие как временный или даже постоянный запрет на доступ к рынку".
Как сообщали "Вести.Экономика", в конце марта 2019 г. китайская компания CY Credit в партнерстве с Центральным комитетом Коммунистической молодежной лиги и Национальной комиссией по развитию и реформам запустила социальный рейтинг для молодежи.
Мобильное приложение Unictown, которое разработала компания CY Credit по заказу Коммунистического союза молодежи Китая, анализирует "цифровой отпечаток" молодых людей в стране, присваивая каждому пользователю от 350 до 800 баллов. Любой, кто наберет больше 640 очков, попадет в особую группу и получит доступ к привилегиям.
Приложение собирает, сортирует и анализирует огромное количество данных от уровня образования до покупок в онлайн-магазинах. Социальный рейтинг становится основой для вознаграждения аналогично тому, как банк предлагает более высокие кредитные лимиты с более низкими процентными ставками для клиентов с хорошей репутацией. Однако социальный кредит гораздо шире и включает в себя нефинансовые действия, такие как антиобщественное поведение и волонтерство.
К 2020 г. к системе планируют подключить всех жителей в возрасте от 18 до 45 лет, то есть около 460 млн человек.
Система социального кредита весьма противоречива. Низкий социальный рейтинг не позволяет людям совершать поездки на высокоскоростных поездах или самолетах. Новая система также создает серьезные неудобства для иностранных фирм, которые обеспокоены тем, что она может использоваться в качестве оружия в ходе международных торговых споров или для предоставления преимуществ отечественным компаниям.
Подробнее: https://www.vestifinance.ru/articles/125168

"Социальный рейтинг", указанный заправилами-глобалистами, тихой сапой ползёт по миру.

На очереди - Казахстан. А далее?

"Низкорейтинговые" семьи могут дождаться и визита ювенальщиков. Что вьются, словно стервятники, изыскивая семьи, что можно обозвать "неблагополучными". И забрать детей, в соответствии с мировым трендом...

====================================

https://vk.com/wall297171863_2352

"Дождались...

с 1 июня 2023 года в Казахстане ввели социальную систему бонусов. Если в семье двое детей - минус 100 бонусов. Если в холодильнике нет "правильного" набора продуктов - минус 200 бонусов. Примерно выглядит так. Если вы не набираете нужное количество бонусов, то ваши деньги на карточке вам позволят расходовать на назначенную ими группу продуктов. Например, на кузнечиков, червей, тараканов. Раз вас зачислили в провинившихся, то вы наказаны системой. И подчиняетесь её управлению. Деньги на карточке есть, но потратить вы их сможете только на то, на что вам укажут. Это называется электронные деньги. По своему усмотрению вы их расходовать не сможете. Так выглядит концлагерь.".

https://vk.com/wall710465224_43360

" Подробности новой системы СОЦИАЛЬНОГО РЕЙТИНГА семей в Казахстане. Это жесть!".

https://vk.com/wall297171863_2352?fbclid=IwAR3PZjvy3YqD8qXLgCaldyMiyclZ5N3y-cbuTP82Q9CBRVNl52I8eZwOTpE

 Максимальное количество компромата на всех

Расследование «Медузы»

15:59, 8 августа 2019

Научно-исследовательский вычислительный центр при управлении делами президента России (ГлавНИВЦ)  разрабатывает системы мониторинга и деанонимизации пользователей соцсетей — и предлагает их государственным и частным клиентам. С помощью сервисов «ПСКОВ» и «Шерлок» страховые компании могут проверять недобросовестных сотрудников, а службы безопасности компаний — кандидатов на работу; «Посейдон» помогает МВД искать в соцсетях «экстремистов». Как выяснила «Медуза», эти системы берут персональные данные россиян не только из открытых источников, но и из слитых баз, свободно продающихся на черном рынке. При этом пользуются системами те же силовики, которые и сливают базы: оказывается, так проще искать людей, не оформляя это как оперативно-разыскную деятельность.

«Ходишь и пугаешь всех словами „управление делами президента“»

…Выявленных «Медиамонитором» пользователей можно было проверять в сервисе «Шерлок». Собеседник передал «Медузе» презентацию, которая осталась у него после встречи с сотрудниками ГлавНИВЦ: в ней говорится, что разработка обеспечивает «идентификацию аккаунтов по минимально известным данным», а информацию можно запрашивать «по ФИО, возрасту, городу персоны; по номеру мобильного телефона; по адресу электронной почты». Возможности «Шерлока» собеседник «Медузы» проверял на знакомом. В ответ на поисковый запрос с его именем и фамилией сервис составил досье: «Там было все — и все совпало: родился, женился, умер; страницы в фейсбуке и инстаграме — а других страничек у него и нет; прописка, судимости, паспортные данные»… После нажатия кнопки «Составить досье» система якобы выдает ФИО, адрес, телефон, дату рождения, ИНН, ОГРН, зарегистрированные человеком компании и домены, IP-адрес, идентификатор пользователя, VIN-номер авто и паспортные данные. 

Аналогов «Шерлока» собеседник «Медузы» не знает: «Никто даже не заговаривает обычно о „приложениях по деанону“, потому что сразу же встает вопрос о защите персональных данных».

Среди продуктов ГлавНИВЦ на сайте предприятия «Шерлок» не указан, но упоминается в описании их разработки под названием FaceRadar — аналога сервисов FindFace и FindClone: сказано, что функционал по распознаванию лиц «входит в состав сервиса „Шерлок“», но пояснений не дается. Еще один раз «Шерлок» упомянут в новости 2018 года о том, что работать в системе научили группу студентов и преподавателей Московского университета МВД России имени В. Я. Кикотя — подробностей в тексте тоже нет. 

… если программа позволяет получать такой набор персональных данных гарантированно и на постоянной основе, то это значит, что она подключена к базам данных госуслуг, налоговой, ГИБДД, паспортных столов и прочим. И это, конечно, не соответствует закону о персональных данных. Такие сведения могут быть запрошены только в рамках закона об ОРД [оперативно-разыскной деятельности]». «ФГУП „ГлавНИВЦ“ не работает с незаконно полученными персональными данными», — сказали «Медузе» в управлении делами президента, которому подведомствен ГлавНИВЦ.

…Администрация президента и Росгвардия с помощью разработок ГлавНИВЦ «решали кадровые вопросы», продолжает собеседник «Медузы»: «Какой-нибудь чиновник назначается на большую должность — и нам его дают на проверку… Бывало, что люди проходили проверку ФСО, но не нашу проверку».

…Один из доменов локальной сети ГлавНИВЦ называется «Невод» (nevod.grcc.team); список этих доменов оказался доступен в интернете. Название всей внутренней сети предприятия (grcc.team) случайно показали в сюжете РЕН-ТВ об использовании высоких технологий в борьбе со шпионами: его видно в адресной строке браузера, в котором открыты сервисы центра. Помимо «Невода» в списке принадлежащих ГлавНИВЦ доменов можно найти sherlock.grcc.teamи monitor.pskov.grcc.team — связанные, вероятно, с системами «Шерлок» и «Медиамонитор».

…В США система анализа больших данных Palantir — ведущее решение для разведки и правоохранительных органов: начав поиск с имени или телефона, можно получить не только полное досье (вплоть до роста и цвета глаз), но и построить сложные связи между объектами.

ЧИТАЙТЕ ТАКЖЕ

• В интернете нашли базу данных подрядчика китайской полиции. Она содержала информацию о слежке за миллионами уйгуров

…«Русский Palantir» назвали «ПСКОВ» («Поисковая система категории особой важности»): программа внесена в реестр Минкомсвязи и защищена серией свидетельств о регистрации (в одном из них в списке авторов указан Анатолий Пивоваров — по утверждению бывшего аналитика ГлавНИВЦ, выходец из спецслужб).

… «ПСКОВ» выдает досье на целые группы в соцсетях; производит поиск в Tor; анализирует массивы биллинговой информации и находит «скрытые связи между абонентами» с помощью подсистемы Calls…. 

ЧИТАЙТЕ ТАКЖЕ

• Хакеры рассказали о проектах крупного подрядчика ФСБ. Среди них — деанонимизация пользователей Tor и мониторинг чужой почты

«Кронос» и «Спрут»

... «Шерлок» просто напрямую подключен к одному из существующих в стране нелегальных массивов персональных данных… Массив, к которому через программный «шлюз» был подключен «Шерлок», называется «Спрут» рассказывают собеседники «Медузы»….

 В предоставленных собеседником документах упоминается, что «общий объем информации баз данных ГлавНИВЦ составляет более 100 терабайт».

…Рынок нелегальной торговли персональными данными начал формироваться еще в советское время. «Кронос» — так называлась первая «серая» СУБД, ее разработку инициировали «в недрах КГБ», говорит торговавший системой собеседник: «В формате „Кроноса“ хранились данные, которыми пользовалась чекисты». 

Созданный бывшими силовиками «серый» рынок торговли персональными данными охватывает всю страну — и менять это невыгодно сейчас никому, утверждают собеседники «Медузы». Легкий доступ к таким сведениям необходим и в службах безопасности предприятий («профессиональное владение» «серыми» СУБД упоминается во многих объявлениях о найме), и в банках или страховых компаниях, и даже в тех ведомствах, которые имеют доступ к собственным, гораздо более актуальным базам…

«Шерлок» теперь не просто мониторит соцсети, а имеет доступ «к закрытой части API продуктов Mail.ru Group». (Mail.ru Group принадлежат социальные сети «ВКонтакте», «Одноклассники», а также порталы Mail.ru и My.com). … 

От присутствовавших на демонстрации в центральном аппарате МВД оперативников источник «Медузы» услышал, что новый «Шерлок» берет данные не из «серых» СУБД, а из баз данных МВД и сотовых операторов. «Во второй версии постарались собрать все, до чего могли дотянуться руки у администрации президента, вот и все. А до чего они могли дотянуться — до Mail.u Group, до операторов связи, базы данных МВД. Что еще нужно для счастья?» — вспоминает Бедеров свои первые впечатления от разработки.

ЧИТАЙТЕ ТАКЖЕ

• Полиция по всей России покупает системы мониторинга соцсетей. Они помогают искать экстремизм «не выходя из рабочего кабинета»

Энтузиасты-деанонимизаторы

В мае 2019 года, когда в Екатеринбурге происходили акции против строительства храма в сквере у Театра драмы, протестующие стали координировать свои действия в телеграм-чате. «В эту группу, где, естественно, находилась куча оперативников, внедрялись еще и наши боты, которые предлагали пользователям организовать, например, отдельный митинг — люди интересовались, взаимодействовали с ботом и оставляли данные о себе», — рассказывает бывший оперативник Игорь Бедеров, чье агентство сетевой разведки «Интернет-розыск» помогало в те дни уральской полиции. 

Телефоны митингующих Бедеров проверял через свой сервис «ТелПоиск», который может идентифицировать человека по открытым данным: «Мы просто вводим номер во всех возможных источниках, от Headhunter до Avito, — и у нас вылезают привязки к резюме, телефонным книжкам третьих лиц, а машина уже делает вывод, что пользователем, скорее всего, является человек с таким-то именем и такими-то соцсетями». 

Сейчас боты Бедерова собирают информацию в «педофильских чатах»; совместную работу по деанонимизации этих пользователей Бедеров ведет с другим подрядчиком МВД — Евгением Венедиктовым, чья мониторинговая система «Демон Лапласа» недавно обнаружила «большой всероссийский чат растлителей». «Список телефонов подписчиков я отдал Игорю [Бедерову], потому что сам этих людей не отработаю, а у него есть связи в Питере: проверят, не поступил ли подписчик чата педофилов на работу в школу», — рассказывает Венедиктов.

Венедиктов показал «Медузе», как работает и другая его программа — Insider Telegram: от номера телефона — только шаг до деанона. Иногда можно установить и домашний адрес, демонстрирует Венедиктов: «Потому что у нас база [онлайн-ритейлера] WildBerries.ru установлена. Через эту базу программа связывает мобильный не только с именем, но и с адресом, на который пользователь делал заказ. [Оперативнику] не нужно делать запросы какие-то: два клика — и все». 

…business intelligence (BI), она же интернет-разведка, или «цифровые расследования», объясняет сооснователь одного из крупнейших российских хостинг-провайдеров «Мастерхост»Леонид Филатов. Основной метод работы — «обогащение данных»: «Например, мы используем паспортные данные как основной идентификатор. Вокруг идентификатора выстраиваем доступные нам базы. Берем ЗАГС: родственные связи, жена, сестра — наше физлицо обогатилось связями. Потом берем налоговую: видим ФИО, доходы, места работы и ИНН. Раз есть ИНН, накладываем на это базу данных ЕГРЮЛ: смотрим, какие компании человек создавал. Дальше начинаем эти данные смешивать — крутить эти кубики; выясняется, например, что куча родственников одного и того же чиновника получает доход от одного и того же бизнеса». 

…Я просмотрел презентации ГлавНИВЦ и подумал: о, спецура. Тут философия в том, чтобы создать максимальное количество компромата на всех. Чем больше они про вас знают, тем больше у них уверенности, что они на вас что-то чувствительное при необходимости нароют»…:

https://meduza.io/feature/2019/08/08/maksimalnoe-kolichestvo-kompromata-na-vseh?utm_source=website&utm_medium=push&utm_campaign=browser_news

 10 ноября 2018

В России раскритиковали китайскую систему государственного расслоения граждан

В правительстве России посчитали систему ранжирования граждан по примеру Китая угрозой и заверили, что она не будет введена в стране. Об этом заявил заместитель председателя правительства Максим Акимов, передает агентство «Москва».

«Я считаю, что это довольно явная угроза, но, относясь к обществам с классической гуманистической традицией, нам удастся этой угрозы избежать. Я ее явно ощущаю, поэтому могу сказать, что на стороне правительства такие вопросы сейчас не обсуждаются, они не в повестке дня», — отметил он.

В России не ведется разработка таких программ, как оценивание политического и социального поведения, подчеркнул Акимов. По его словам, на сегодняшний день «таких проектов нет».

https://lenta.ru/news/2018/11/10/reputation/ 

Соцрейтинг привязывают к банковским счетам в 40 странах

Кто определяет рейтинг коррумпированные структуры власти? А ИХ как нам рейтинговать? И что делать?                                 Для чиновников бы такую систему придумать - Всех! Это рейтинг лояльности к этой власти?! Все ближе и ближе такой ненавистный цифровой " рай". Без акцепта все планы, замыслы и действия, направленные против людей! Принимаю только то, что во благо! Освободиться можно будет только в одном случае отказавшись от всех ,, благ ,. цивилизации, по другому ни как. До тех пор пока мы пользуемся их благами, они будут диктовать свои правила.

Всем благоразумия, силы Воли и Духа, света в Душе!

https://www.youtube.com/watch?v=ciEzldk8nOo

Тоталитаризм на ништяках

25.02.2019, 09:10

Георгий Бовт о том, как новые технологии сделают вас не только «прозрачными», но и послушными

Много ли вокруг вас хороших людей? Многие скажут, что полно. А мизантропы скажут, что все вокруг, скажут, сволочи, обманщики и воры, никому верить нельзя. Наше государство про нас думает, кажется, как типичный мизантроп. Не доверяет нам, проверяет и перепроверяет. Но при этом оно заранее не знает, насколько тот или иной человек благонамеренный, а насколько – плут, вор и обманщик. И вообще склонен к насилию и противоправной деятельности, вплоть до заговорщицкой. Но оно хотело бы это знать. Про всех. И скоро это время настанет.

Прогресс, который накроет русскую вольницу (относительную, конечно, не будем лукавить), беспечность и разгильдяйство (не путать с бездорожьем), как всегда, придет к нам из-за границы.

В Китае уже пять лет работает система социального кредита. Она основана на обработке больших масс персональных данных, которые получают десятки ведомств, передавая в единый центр. В зависимости от того, хорошо или плохо человек себя ведет, он получает соответствующие баллы. Если уровень социального кредита высок, то он имеет ряд преимуществ. «Ништяков», по-нашему. Как бонусы в компьютерной игре. Например, возможность получать льготные кредиты, преимущественный доступ к высокотехнологичной медпомощи и т.д. А если человек себя ведет плохо, то жить ему в обществе становится все труднее. И дороже. На днях опубликована соответствующая статистика.

Из нее следует, что 17,46 млн человек в прошлом году, которые были определены как «не заслуживающие доверия», было отказано в приобретении билетов на самолет, а 5,47 млн по той же причине не смогли путешествовать на скоростном поезде. 290 тысячам было отказано в повышении по службе. Масштабы впечатляют. И это еще система охватила далеко не всю страну.

Система социального кредита работает и в отношении предприятий. У нас тоже есть черный список неблагонадежных поставщиков, однако толком это не работает, поскольку легко сменить юрлицо. Так вот, более 3,5 млн китайских предприятий пополнили собой черный список, из которого выйти не так-то просто. Их нарушения не обязательно связаны с невыполнением контрактных обязательств. Это может быть и распространение недобросовестной рекламы. «Неблагонадежным» компаниям запрещено участвовать в тендерах, земельных аукционах, выпускать долговые обязательства и т.д.

Аналогичные требования действуют по отношению к людям: на снижение их рейтинга может повлиять распространения недостоверной информации в соцсетях (в Китае есть уголовная ответственность за «распространение слухов», идея думского законопроекта списана оттуда).

Повысить уровень социального кредита можно не только тем, что добросовестно трудиться, не нарушать правила, вовремя платить долги и налоги, но и, например, можно настучать на соседа, который «плохо себя ведет». И получить поощрительные баллы.

На снижение рейтинга может повлиять любая мелочь в повседневном поведении. Помимо таких очевидных вещей, как просрочка платежей по кредитам, неуплата (или просрочка) налогов, воровство в магазинах, нарушение правил дорожного движения, это может быть, например, «нецивилизованное поведение» в виде занятия чужого места поезде или очереди в поликлинике. Низкие оценки детей в школе, как и их плохое поведение – тоже идут в минус. Зато за перевод через дорогу пожилого человека можно получить «бонус». Разумеется, учитывается поведение в виртуальном пространстве. Например, если он замечен в участии в азартных играх или пялится на порнуху, то ему «минус в карму». Еще больше минусов он получит, если будет замечен в посещении политически «неподобающих сайтов» или использовании запрещенных мобильных приложений. А китайская полиция уже обладает технологиями сканирования дистанционно гаджетов на предмет установки там чего-то запрещенного.

Для людей, «не заслуживающих доверия», стоимость всех видов страховок всегда выше. Им могут запретить определенные покупки – недвижимости или финансовых инструментов. Не говоря о трудностях в карьере.

Вот оно тоталитарное общество, описанное в многочисленных художественных произведениях. Основанное, как у нас бы сказали, на массовом внедрении «цифровой экономики». Homo sapience становится теперь homo perlucidum (человек прозрачный).

Конечно, китайское общество сильно отличается от российского стремлением каждого человека «не потерять лицо» перед окружающими. Однако по мере внедрения соответствующих технологий обработки персональных данных (которые наши регуляторы так жаждут перенести на родину), можно представить, как подобная система заработает и у нас. И определять, кто «добродетелен», а кто «не заслуживает доверия», будет не общество, а какой-нибудь уполномоченный ФГУП «Доверие». Наверняка появится и какой-нибудь совет по «совершенствованию» нормами морали и нравственности, не регулируемых административным и уголовным кодексами. Будут «рейтинговать» потребление спиртного, занятия спортом, лишний вес, внебрачные связи, аборты и много чего еще.

В СССР была своего рода система социального кредита — широко распространенная практика характеристик по месту работы. Правда, в конце это превратилось в полную профанацию.

Они требовались для осуществления ряда действий. Наиболее известный пример — разрешение на выезд за границу. Однако часто характеристики прикладывали к ходатайствам об улучшении жилищных условий, получении каких-либо благ вне общей очереди: приобретении путевки в санаторий, покупки дефицитных товаров, автомобиля. Разумеется, они нужны были при повышении по службе. Признаками «повышенного социального кредита» считались членство в компартии, наличие государственных наград, грамот и так далее.

Впрочем, понятие репутации есть во всех обществах. Они создавались разными способами – ратным подвигами, посещением церкви, благотворительностью, образцовым семейным поведением и т.д. Современные технологии позволяют все это стандартизировать, учитывая огромное количество дополнительных факторов, которые раньше учесть было невозможно. Компьютер все подсчитает. И будет хранить вечно. Вашу социальную кредитную историю нельзя будет переписать и исправить. Разве что взломать. Но это уже другая история.

Государство будет знать не только то, сколь исправно вы платите налоги, штрафы (и имеете ли вообще штрафы, оно уже это знает) и выполняете другие обязательства, но и то, что вы покупаете в магазинах. Особенно на фоне массовой маркировки товаров и по мере перехода на безналичные платежи. Где и с кем проводите время. Что почитываете и чем интересуетесь. И оно сведет это все воедино. На ваш кредитный рейтинг будут влиять, разумеется, и высказывания соцсетях. А также на домашней кухне. Ровно как ваш гаджет отслеживает то, о чем вы переписываетесь в онлайне, а также о чем говорите в офлайне, в целях распространения таргетированной рекламы, вас будет отслеживать родное государство.

Трудно представить себе такую систему в нашей стране без того, чтобы она учитывала ваши политические, социальные взгляды, включая сексуальную ориентацию. Разумеется, будет учтено участие в акциях протеста. Будь то марш оппозиции или сход против мусорной свалки или обманутых дольщиков, высказывания оценок действий властей. Вам зачтется (в прямом смысле) использование VPN. Значит, вы что-то скрываете. На ваш рейтинг могут повлиять «слишком частные» поездки за границу и контакты не с теми людьми.

В отечественных традициях будет, разумеется, сделать так, чтобы помимо открытой части рейтинга, где вы можете узнать, за что вам снизили балл, будет и закрытая часть.

Не очень понятно, как будут учитывать разные повседневные действия. Скажем, оставление мусора в местах отдыха и выбрасывание пластиковой бутылки из окна машины на обочину – очевидный минус. А вот участие в волонтерской организации, занимающейся благородным делом (поиском людей), но не имеющей «государственной лицензии», — это как?

Замеченных в неблагонадежном поведении вовсе необязательно сразу сажать за «экстремистские» посты и «лайки» и т.д. Хотя эти средства тоже сохранятся в качестве инструмента наведения государственной дисциплины. Может, появятся и другие формы перевоспитания. Главным же фактором воздействие станет материальный. Быть нелояльным обществу, предписанным государством нормам, станет невыгодно.

Люди, выбивающиеся из тоталитарного строя и хора одобрения заведомо мудрых решений руководства, будут платить за это все дороже. Это вопрос, в конечном счете, законодательного регулирования. Каковое в условиях абсолютной послушности законодателей не является проблемой. Принятый без сучка и задоринки «пакет законов Яровой» по сравнению с тем, что еще предстоит принять,— это детские шалости на лужайке.

Неблагонадежным людям можно будет вменить платить за все виды страховки дороже (как в системе ОСАГО), не давать льготные ипотечные кредиты (а лояльным, наоборот, давать), запретить селиться и покупать жилье в местах, которые будут объявлены «престижными», где живут «достойные люди». В СССР неблагонадежных высылали за 101-й километр. Странно, что еще эта практика не возобновлена, мы же так любим советский опыт. Этим людям можно будет ограничивать доступ в интернет, посещение массовых увеселений, лечение в «хороших» больницах. А «правильным» людям будут положены скидки в магазинах. Низкий рейтинг повлияет на карьеру. Возможно, уже на стадии (не)поступления в университет. Запреты на профессию станут массовыми, и люди низшего сорта пойдут мести улицы вместо гастарбайтеров. И будут мести их поколениями. Будет создан технологический заслон для проявления недовольства и даже для появления самих мыслей о том, что тебе что-то может не нравиться в окружающей действительности. Которой останется только восторгаться. И чем громче ты будешь восторгаться, нахваливая руководство, тем проще тебе будет жить.

P.S. Разумеется, главным вопросом внедрения системы социального кредита на нашей почве станет вопрос о размерах взятки за его повышение. И сколько будет стоит «заказать» понижение его своему недругу. И это даже радует. Значит, жизнь возьмет свое.:

https://www.gazeta.ru/comments/column/bovt/12204697.shtml 

Си Цзиньпин проверяет лояльность журналистов

20.09.2019

Китайским журналистам придется сдать экзамен, чтобы проверить свои знания марксизма-ленинизма и учения президента Си Цзиньпина. По его словам, журналисты должны придерживаться правильного политического руководства, чтобы направлять общественное мнение, сообщает «Фигаро» со ссылкой на South China Morning Post.

Китайским журналистам просто надо хорошо проявить себя. Они должны сдать экзамен, чтобы подтвердить свою лояльность коммунистической партии и ее бесспорному лидеру Си Цзиньпину. В противном случае, они останутся без аккредитации. Более 10 000 журналистов из четырнадцати официальных СМИ начнут со следующего месяца проходить «пилотные тесты» на лояльность партии и знание коммунистической идеологии. Затем предстоят национальные экзамены, которые определят способность журналистов выполнять свою работу. «Фигаро» получила подтверждение данной инициативы, которая свидетельствует о возобновлении идеологического контроля со стороны главы государства.

https://inosmi.ru/news/20190920/245864883.html

Wired (США): Россия и Иран планируют полностью изолировать свой интернет

09.06.2019 Джастин Шерман (Justin Sherman)

…Россия и Иран являются инициаторами проведения на новом уровне фрагментации интернета, и при этом они не только создают угрозу для глобальной сетевой архитектуры (кабели, серверы) или работают над тем, чтобы предоставить государству больший контроль над информационными потоками и усилить давление на свободу; их действия также вдохновляют других пойти тем же путем и создать геополитические препятствия, значение которых выходит далеко за рамки границ этих двух государств.

Давайте посмотрим на другую страну, усилившую контроль над своим интернетом. Китай уже давно является золотым стандартом в том, что касается цензуры в интернете. Речь идет о проекте «Золотой щит» (Golden Shield Project, китайский файрвол прим.ред.), который первоначально был задуман как база данных для осуществления наблюдения с целью усиления полицейского контроля, а сегодня он является частью сложного механизма фильтрации интернет-контента (Great Firewall). Правительство фильтрует поступающую в страну информацию, а также контролирует направляемые запросы, использую такие способы как глубокая инспекция пакетов (deep packet inspection, DPI) и создание черных списков IP-адресов.

…В действительности, фильтрация информации, а не перекрытие ее потока позволяет Пекину проводить тонкую балансировку контентного контроля с экономическими выгодами, связанными с открытостью интернета.

Однако Россия и Иран преследуют совершенно другие цели — они намерены провести фрагментацию интернета на более глубоком уровне. Такого рода изменения будет уже сложнее отменить, и они являются более привлекательными для тех стран, которые хотят установить строгий контроль над информацией.

Когда Владимир Путин в начале мая подписал законопроект о создании внутреннего российского интернета, то оказалось, что он включает в себя не только расширенный правительственный контроль над точками обмена интернет-трафиком (IXPs), направляющими глобальный входящий и исходящий трафик, но и такие меры как создание национальной системы доменных имен, которая будет находиться под контролем Роскомнадзора, российского регулятора интернета. Этот закон направлен на создание совершенного нового уровня российского кибер-суверенитета. Поскольку Рунет будет функционировать независимо от глобальной сети, то предполагается наличие возможности физической перерезки кабелей, перемещение их в другое место или изменение протоколов маршрутизации в интернете для ограничения трафика, идущего в страну и из нее.

Тем временем Иран уже на 80% завершил создание своей так называемой национальной информационной сети. Тегеран, как и Москва, надеется сократить зависимость страны от глобальных сетей с помощью создания такого альтернативного варианта, которым можно будет управлять внутри Ирана. Цензура уже распространена в иранском интернете, а еще к ней следует добавить такие меры как удвоение цены за доступ к иностранным новостным сайтам, что делается для того, чтобы граждане более активно посещали местные сети, и подобного рода стимулы будут еще сильней, если изоляция усилится. Как и в России, утверждения относительно желания лучше защитить Иран от угроз, связанных с иностранными кибератаками, также приводятся в этой стране в качестве оправдания. Некоторые наблюдатели считают, что и санкции сыграли свою роль.

Решение России и Ирана создать изолированный внутренний интернет представляет собой новую форму фрагментации интернета, и она может в большей степени относиться к физической стороне дела, чем это было раньше. Сегодня жители стран, где существует цензура интернета, часто имеют возможность использовать виртуальные частные сети (virtual private networks) и другие инструменты для обхода существующих фильтров, однако это станет невозможным, если их внутренний интернет будет отрезан от глобального интернета. Кроме того, подобные меры лишь усилят глобальное наступление на свободу интернета и позволят авторитарным режимам консолидировать свою власть. Однако будут еще и значительные геополитические последствия, выходящие далеко за национальные границы России или Ирана…:

https://inosmi.ru/social/20190609/245241596.html

Один из самых известных обозревателей «Нью-Йорк Таймс» Дэвид Брукс поделился размышлениями о том, каким было бы тоталитарное общество, которое так мечтал построить И.В.Сталин, будь у него современные новшества. Технологии распознавания лиц, искусственный интеллект, большие данные стали бы незаменимыми помощниками в установлении полного контроля не только над поведением людей, но и над их разумом. Но разве люди смогли бы спокойно на это реагировать?
The New York Times (США): если бы у Сталина был смартфон

Неожиданно, но технология приводит к централизации

13.03.2019  Дэвид Брукс (David Brooks)

Мне жаль Иосифа Сталина. Он мечтал о создании тоталитарного общества, в котором поведение каждого человека можно было бы спрогнозировать и проконтролировать. Но он родился на столетие раньше. Он жил во времена, когда еще не появились технологии, которые сильно облегчили бы дело диктатора.

Во-первых, у него были бы более совершенные технические средства наблюдения. В наше время практически все взаимодействие осуществляется через компьютер, поэтому всегда есть электронная запись того, что происходило.

Возможность контролировать физические объекты с помощью интернета (так называемый Интернет устройств) ведет к тому, что скоро наши холодильники, часы, очки, телефоны и камеры видеонаблюдения будут фиксировать каждый наш шаг. …

Во-вторых, благодаря искусственному интеллекту, Дядюшка Джо (прозвище Сталина на Западе, прим. ред.) обладал бы более совершенными средствами прогнозирования поведения своих граждан. Как написала Шошана Зубофф (Shoshana Zuboff) в своей книге «Капитализм слежки» (The Age of Surveillance Capitalism): когда вы пользуетесь «Гуглом», вы не являетесь его клиентом(customer). Вы его сырьевой материал. Google фиксирует все, что вы делаете, затем разрабатывает модель, которая предсказывает ваше поведение, после чего продает ее рекламодателям, которые и есть его истинные клиенты(customer).

Благодаря этой бизнес-модели, одни из лучших умов человечества потратили десятки миллиардов долларов на улучшение техники, которая прогнозируют личное потребление. Эта технология также пригодится любому современному Сталину.

В-третьих, благодаря большим данным, сегодняшний Сталин смог бы построить гигантскую систему социального рейтинга, чтобы оценить по различным параметрам граждан и классифицировать их в определенном порядке. Сегодня подобная система используется в Китае.

Органы власти, банки и сайты интернет-знакомств тщательно собирают данные обо всех. Платите ли вы по своим счетам? Много ли времени вы проводите, играя в видеоигры? Переходите ли вы дорогу на красный свет?

Если у вас слишком низкий показатель, то вы можете попасть в черный список. Возможно, вы не сможете посетить музей, полететь на самолете, посетить торговый центр или окончить среднюю школу. Вашу дочь не примут в университет.

Возвращаясь в сталинское время, когда дисциплина в обществе была очень жесткой, вам пришлось бы организовать показательный суд (так дорого!), отправить кого-нибудь в ГУЛАГ или провести репрессии. Теперь же ваша тирания может быть незначительной, утонченной и вездесущей. Деспотизм можно рассмотреть через теорию «разбитых окон». То есть, наказывая за маленькие отклонения, вы предотвращаете возникновение больших.

В-четвертых, вам не придется проходить через все сложности, чтобы начать революцию. Вы просто заманиваете людей для заключения «сделки с дьяволом». Вы предлагаете занимать их внимание по восемь часов в день, показывая различные видео с животными и жизненные мемы, взамен они передают вам все свои личные данные и предоставляют вам доступ к их мозгу.

По мере того как интернет занимает все большее место в нашем распорядке, дворовая жизнь заканчивается и уровень общественного доверия снижается. В силу того, что социальная структура разрушается, усиливается разобщенность населения, в Интернете накапливается злоба и мошенничество, вы говорите людям, что государство должно вмешаться, чтобы восстановить доверие. Так, совершив ряд маленьких последовательных шагов, вы получили право полностью регулировать онлайн-жизнь.

То же самое, по сути, происходит в Китае.

В понимании Джорджа Оруэлла и Олдоса Хаксли, чтобы умело управлять тоталитарным обществом, одного контроля за поведением людей недостаточно. Чтобы обладать всей полнотой власти, вам необходимо получить контроль над мыслями людей.

С помощью современных информационных технологий государство может формировать внутреннее информационное пространство, в котором мы живем.

Я не хочу создать представление, что Сталину XXI века все будет даваться легко. Современные технологии облегчают контроль над людьми, но также формируют мышление, при котором человек сердится, если понимает, что его контролируют.

Когда люди держат в руках смартфон, они чувствуют, что у них есть право голоса, они должны вещать, а также должны обладать свободой выбора и достоинством. Когда они обнаруживают, что попали в информационную сеть, которая искусно правит ими, они сопротивляются. Когда они понимают, что специально созданные информационные сети не могут создать ту близость и общность, которой они жаждут, они противодействуют им.

Общественные движения и объединения из объятых гневом людей и массовые демонстрации возникают спонтанно. То, что возникает, — это система господства элиты, прерванная популистскими бунтами.

Человеческая история — череда событий в борьбе за власть. Каждые несколько поколений, просто чтобы бы получить удовольствие, боги дают нам новый комплект оборудования, который полностью меняет игру. Мы думали, что новые инструменты демократизируют власть, но, похоже, они ее централизуют. Наступила весна для диктаторов.

https://inosmi.ru/social/20190313/244733616.html

Чип вместо паспорта: чем опасна массовая биометрия

Чем пугает будущая чипизация населения

Дмитрий Бевза 14.04.2019, 15:07

…Безопасно ли имплантировать чипы, физически и ментально? Кому юридически будут принадлежат данные на чипе? У кого будет доступ к этим данным? Можно ли их взломать?

Ответов на эти вопросы нет, как и нет правовой базы, на которую можно было бы опереться для выработки единых правил использования имплантированных чипов.

Биометрия и чипизация документов выглядит мене эпатажно, вводится поэтапно и менее болезненно. Так, например, современные биометрические загранпаспорта мало у кого вызывают негативные эмоции, однако биометрия как средство доступа и допуска тоже вызывает немало вопросов.

Эксперты компании IDX, занимающейся удаленной идентификации личности, в комментарии для «Газеты.Ru» выделили несколько узких мест этой технологии. Прежде всего, биометрические атрибуты хранятся в цифровом формате. Если ваши биометрические данные скомпрометированы, то поменять вы их не можете, в отличие от логина и пароля.

Возможно, будет придумана какая-то процедура «реабилитации» скомпрометированной биометрии, но явно это будет сложнее, чем смена секретных комбинаций.

Аналогичные доводы приводит аналитик MForum Analitics Алексей Бойко: «Сейчас, если кто-то взломал ваш аккаунт, вам достаточно поменять пароль к нему на более надежный. Но если кто-то взломает вашу биометрию, он, по сути, становится вами. Представьте, что кто-то одел на себя маску, напечатанную на 3D-принтере, и получил доступ к вашим деньгам, конфиденциальной информации или критически важной городской инфраструктуре. Маску, дизайн которой полностью соответствует вашему лицу, которое для этого сфотографировали с нескольких ракурсов или «собрали» из набора ваших селфи в соцсетях».

По мнению Бойко подделать при желании и по мере развития техники можно многие, если не все биометрические показатели.

«Боюсь, что это будет постоянным соревнованием — биометрические системы будут все более изощренными, как и методы имитации биометрических данных. И как бы ни были удобны биометрические подходы, для отдельных случаев очень хочется оставить старые, добрые пароли», — считает эксперт.

…При наблюдающемся во многих странах кризисе доверия к государственным институтам, возможности, которые представляют подобные системы в руках некомпетентных или злонамеренных действий со стороны государства пугает людей.

Та же система наружного наблюдения в Китае, более масштабная и продвинутая, чем в США и Европе, заставляет вспомнить антиутопии об обществах тотального контроля. Особенно тревожит европейских и американских наблюдателей привязка биометрии к системе «социального рейтинга» с последующим разделением прав и обязанностей граждан в зависимости от их статуса. Пока такой эксперимент проводится только в некоторых провинциях Китая, но уже привлек к себе внимание всего мира.

Так, например, в 2018 году обладатели низкого социального рейтинга не смогли купить около 23 млн билетов на самолеты и поезда. Такие данные приводятся в февральском отчете Национального центра публичной кредитной информации (National Public Credit Information Center, NPCIC). В 2018 общее количество «черных списков» в Китае достигло 51 и в них было добавлено 3,59 млн человек.

Кстати, «черные списки» — вовсе не китайское ноу-хау. Американские и европейские банки, страховые и авиакомпании ввели их много лет назад.

Одна из ключевых мыслей экспертов, занимающихся влиянием биометрии и чипизации на повседневную жизнь, заключается в том, что эти технологии выступают в роли катализатора. То есть, с их помощью можно как максимально облегчить, так и максимально осложнить жизнь человека. Появление такого мощного инструмента в руках крупных компаний и государства и сопутствующее этому процессу риски вызывают вполне обоснованные страхи даже у самых здравомыслящих людей.

https://www.gazeta.ru/tech/2019/04/14/12301447/chips.shtml

В "умных" городах России систему распознавания лиц сделают обязательной

3 ДЕКАБРЯ 2018 Г.  

 В российских "умных" городах система распознавания лиц может стать обязательной, заявили в Минстрое РФ.

При этом у властей нет задачи контролировать каждого человека, задача системы – искать пропавших детей и выявлять преступников, подчеркнули в ведомстве.

Стандарты федерального проекта "Умный город" будут представлены в декабре, сообщил замминистра строительства Андрей Чибис. …

Первыми площадками проекта станут почти 40 российских городов.

https://realty.vesti.ru/gorod/v-umnyh-gorodah-rossii-sistemu-raspoznavaniya-lic-sdelayut-obyazatelnoy

Российская компания NtechLab — один из лидеров в области электронного распознавания лиц. Разработанная ей технология успешно зарекомендовала себя как в России, так и за рубежом. Однако «Хандельсблатт» считает ее весьма опасным инструментом слежки, вторгающимся в частную жизнь людей.

Распознавание лиц даже в мотошлеме: российская компания предоставляет государству алгоритм для слежки за людьми (Handelsblatt, Германия)

14.11.2019 Андрэ Баллин (Andre Ballin)

…Компания NtechLab получила известность благодаря технологии распознавания лиц. Зимой 2016 года на международном конкурсе алгоритмов распознавания лиц по фотографиям в интернете даже разработка компании Google выглядела устаревшей на фоне алгоритма «FindFace» основателя NtechLab Артема Кухаренко. Для главы NtechLab это уже вчерашний день. Компания давно успела победить и в других конкурсах, говорит он, с гордостью указывая на висящие на стене дипломы. «Борьбу за лидерство ведут компании из Китая, России и в определенной мере из Израиля», — рассказывает Минин. Действительно, хотя китайские компании «Sensetime» и «Yitu» или израильская «Anyvision» пока не достигли мировой славы, но выбились в лидеры на международном рынке цифровых технологий безопасности. Американцы и европейцы, напротив, по словам Минина, отстают в этой области из-за законодательства и «представлений о защите персональных данных».

Технология электронного распознавания лиц широко применяется уже сейчас и в аэропорту на паспортном контроле, и даже в контроле доступа к конфиденциальным данным. Но более важным направлением бизнеса для NtechLab является так называемое некооперативное распознавание лиц, когда человек не смотрит в объектив, пытается скрыть лицо, когда камера расположена на большом расстоянии, а также при плохой погоде и слабой освещенности. «Это и есть будущее, здесь большие проекты», — с восхищением говорит Минин.

Такого же мнения придерживается оборонный холдинг Ростех, в 2018-м году выкупивший долю в NtechLab. «Мы проанализировали мировой рынок и оцениваем потенциал капитализации предприятия, владеющего такими технологиями, в пять миллиардов долларов в ближайшие пять лет», — рассказал Василий Бровко, директор по особым поручениям корпорации Ростех.

Технология работает следующим образом: она захватывает имеющиеся снимки с камеры и выбирает лучший. На следующем этапе она создает из него цифровой образ. Этот цифровой код уникален для каждого человека. На третьем этапе этот код сохраняется в базе данных, которая, по утверждению компании NtechLab, не содержит никаких(?!) персональных данных, кроме кодов с информацией о лицах.

Детали системы повторного распознавания компания не раскрывает. Однако система не только выполняет линейные измерения, такие как расстояние между глазами, но также распознает и фиксирует текстуру кожи и другие отличительные черты. Таким образом, алгоритм также зависит от качества фотографии. Чем четче фотография, тем больше подробностей система может включить в обработку. «В настоящее время мы умеем распознавать лица, закрытые даже на 40%, мы распознаем лицо даже в мотоциклетном шлеме», — говорит Минин.

Полиция использует алгоритм NtechLab

В первую очередь это интересно полиции. Российские органы безопасности уже включили алгоритм NtechLab в свою систему наблюдения. Около 170 000 камер подключены к системе видеонаблюдения в Москве. Камеры есть практически в каждом подъезде, в каждом дворе, в парках, в общественных зданиях. По словам главы Ростеха Сергея Чемезова, давнего друга Владимира Путина по общему агентурному прошлому, в настоящее время 1 500 из них уже оснащены технологией NtechLab. Согласно сообщениям СМИ, к концу года остальные камеры также будут подключены к системе. С помощью функции FindFace камерам теперь проще идентифицировать преступников на улице — или же демонстрантов, что во время недавних протестов в Москве доказала полиция, столь быстро приступив к уголовному преследованию.

Однако «Большому брату» в России пытаются дать отпор. Москвичка Алена Попова в октябре подала иск в суд: технология распознавания лиц в городской системе видеонаблюдения нарушает ее право на неприкосновенность частной жизни, утверждает она. В апреле 2018-го года Попова вышла на одиночный пикет перед Госдумой, за это суд назначил ей административный штраф в размере около 300 евро. В ходе процесса суд также использовал изображение с камер видеонаблюдения, которое было увеличено с фиксацией на лице Поповой. По словам Поповой, эта всеобщая непрекращающаяся слежка за москвичами идет вразрез с Конституцией.

НПО «Роскомсвобода» поддержала Попову в судебном процессе и к тому же запустила сбор подписей за запрет использования технологии распознавания лиц. Российская власть уже значительно ограничила право граждан на тайну переписки, контролируя серверы. Но если подключится еще и полноценное видеонаблюдение, «Большой брат» станет реальностью, считает юрист НПО «Роскомсвобода» Саркис Дарбинян.

Пощечина американским конкурентам

Кремль, напротив, не имеет никаких опасений по поводу распознавания лиц. Безусловно, решение по иску должен принимать суд. Система распознавания лиц важна в борьбе с терроризмом и преступностью, отметил пресс-секретарь Владимира Путина Дмитрий Песков. Сам Минин также акцентирует внимание на повышении стандартов безопасности благодаря новой технологии: «Наша система принципиально меняет ситуацию с безопасностью. С ее помощью уровень преступности в течение нескольких месяцев может быть снижен на 30-40%. Поскольку система позволяет практически в режиме реального времени решать любые задачи безопасности», — утверждает генеральный директор NtechLab. При этом Минин отмечает успех пилотного запуска технологии на чемпионате мира по футболу в России. Основываясь на этом опыте, компания уже нацелилась на предстоящий чемпионат мира. В начале сентября NtechLab объявила о переговорах с ФИФА по внедрению алгоритма FindFace в Катаре в 2022 году. Уже согласован пилотный проект, который будет оцениваться в конце года и послужит основой для заключения контракта по обеспечению безопасности во время чемпионата мира по футболу. Минин настроен оптимистично: в отличие от разработок конкурентов, алгоритм распознает лица любой расы, говорит он, — это пощечина американцам, чья технология распознавания лиц удивительно часто путала темнокожих людей и тем самым сама себя дискредитировала.

NtechLab нацеливается на международные рынки. Уже сейчас компания реализует 80% своих продаж за рубежом. Однако никакой информации по абсолютным цифрам NtechLab не дает. В Латинской Америке, на Ближнем Востоке и в Юго-Восточной Азии компания имеет огромный успех — даже в Китае, где есть сильные конкуренты, NtechLab получила крупный проект по видеонаблюдению в китайских городах. Теперь же компания устремила свой взор на Европу: Минин считает, что, учитывая поток беженцев и растущие проблемы с безопасностью, необходимо изменить восприятие проблематики конфиденциальности.

Теперь алгоритмом пользуются не только органы безопасности. Недавно стало известно, что множество российских магазинов подключили к камерам видеонаблюдения функцию FindFace. Это позволяет распознавать магазинных воров и более тщательно следить за ними во время их следующего визита. Теоретически эта функция может использоваться и в коммерческих целях: магазины могут легко распознавать постоянных клиентов и целенаправленно выводить на мониторы определенную рекламу.

Опасения по поводу нарушения нравственности, когда государство выступает в роли «Большого брата», и по поводу охраны частной жизни Минин не признает: камеры и так уже были установлены, новые ставить не будут. «Алгоритм просто автоматизирует процесс распознавания. Если в центре Мюнхена кто-то украдет велосипед, полиции придется часами просматривать видеоматериалы, чтобы понять, что это за человек и куда он исчез. Наша система делает это одним щелчком мышки», — говорит он.

Кроме того, для «поколений Y и Z» защита данных не представляет такой важности, как для людей более старшего поколения. «Намечается тенденция к большей открытости», — считает Минин. Модель экономики совместного пользования также основана на обмене данными, и поэтому люди в наши дни добровольно предоставляют общественности огромное количество персональных данных, утверждает он.

По мнению NtechLab, распознавание лиц в любом случае будет лишь началом внедрения новых технологий безопасности, которые попутно превращают человека в стекляшку. Уже в конце этого года компания планирует запустить технологию распознавания силуэтов. Так же, как и черты лица, силуэтные линии человека уникальны и, следовательно, распознаваемы.

В компании NtechLab утверждают, что овладели даже технологией распознавания риска преступления: камеры якобы могут сразу же распознавать опасность агрессивных действий, наличия оружия или даже просто курения на автозаправке и немедленно сообщать полицейским. Последние смогут принять необходимые меры еще до осуществления нарушения. Такой сценарий начинает напоминать фантастический триллер «Особое мнение». Для Минина алгоритм — всего лишь инструмент. Мощный инструмент для того, в чьи руки он попадает.

https://inosmi.ru/science/20191114/246228123.html

Всё, что знает о россиянах государство, соберут в единую базу

НИКОЛАЙ БЕЛКИН  30.11.2018 

Национальную систему управления данными (НСУД) предложено создать в рамках государственной программы "Цифровая экономика". Об этом пишут сегодня "Коммерсант" и "Ведомости", ссылаясь на имеющиеся у них в распоряжении документы разработавшего проект Аналитического центра при правительстве РФ.

Предполагается, что система объединит все данные о гражданах, товарах, объектах и компаниях, которыми располагают государственные органы. В настоящее время они хранятся более чем в 300 зарегистрированных государственных информационных системах (ГИС), существует еще примерно столько же систем незарегистрированных….:

https://hitech.vesti.ru/article/1112007/ 

Россиянам упростят жизнь, создав "цифровые профили"

НИКОЛАЙ БЕЛКИН 10.12.2018

"Ростелеком" и Центробанк совместно подготовили концепцию цифрового профиля — сервиса, позволяющего хранить в единой базе данных электронные версии всех важных документов гражданина, и при необходимости безопасным образом предоставлять доступ к ним и другим сведениям государственным организациям и частным компаниям.

... Планируется, что к марту 2019-го года будет разработан прототип цифрового профиля, а в эксплуатацию его введут до конца 2019-го....:

https://hitech.vesti.ru/article/1120193/

12 февраля 2021 16:38 Анатолий Глянцев

Искусственный интеллект научился манипулировать нашими решениями

Искусственный интеллект может быть не только ценным помощником, но и опасным врагом.
В недобрых руках искусственный интеллект может стать средством манипуляции.
Специалисты создали систему искусственного интеллекта, которая манипулирует человеком, подталкивая его к тому или иному выбору. Этот ИИ показал свою эффективность. Правда, пока он управляет лишь решениями игроков в специальные игры, но кто знает, куда подобные исследования могут завести в будущем?

Разработка описана в научной статье, опубликованной в журнале PNAS учёными из Государственного объединения научных и прикладных исследований в Австралии (CSIRO) и Института биологической кибернетики Общества имени Макса Планка в Германии.

Люди ежедневно пытаются влиять на выбор, который делают другие люди. Политики убеждают избирателей, что уж они-то точно приведут страну к процветанию. Маркетологи внушают потребителям, что для счастья в жизни им остро не хватает шоколадного батончика или поездки на край света. Кавалер уговаривает спутницу остаться с ним этим прекрасным вечером.

Как у нас получается влиять на других? На этот интересный вопрос нет точного ответа. Ведь человек может научиться многим вещам интуитивно, толком не понимая, как он это делает. Наш мозг выводит из опыта правила, которые остаются загадкой для нас самих. Практика делает из человека умелого оратора, искусного обольстителя или ловкого мошенника лучше, чем любые пошаговые инструкции.

Между тем механизмы обучения искусственной нейронной сети напоминают работу мозга (правда, лишь в самых общих чертах). Поэтому искусственный интеллект тоже славится умением справляться с задачами, не имеющими чёткого алгоритма решения.

А может ли искусственный интеллект научиться манипулировать человеком разумным? Новое исследование даёт на этот вопрос однозначный и весьма тревожный ответ: да, может.

Авторы разработали систему искусственного интеллекта, которая наблюдает за тем, как люди делают выбор, и учится манипулировать этим выбором. Учёные испытали её в трёх экспериментах.

Иллюзия выгоды

В первом из них доброволец должен был наугад выбирать правый или левый квадрат. За правильный выбор полагалось вознаграждение в виде небольшой суммы. Но человек не знал, какой из двух квадратов в этот раз поможет ему немного подзаработать. Даже если в прошлый раз правильным был выбор левого квадрата, прямо сейчас вознаграждение могло скрываться за правым (а быть может, и снова за левым).

Искусственный интеллект выбирал, за какой квадрат назначить награду на каждом ходу. Его задача была в том, чтобы приучить пользователя как можно чаще выбирать один конкретный квадрат (например, левый).

По условиям эксперимента награда за левый квадрат назначалась столько же раз (в целом за всю игру), сколько и за правый. Однако пользователь об этом не знал, и искусственный интеллект стремился создать у него иллюзию, что чаще выбирать определённый квадрат выгоднее. И, как показали опыты, в 70% случаев нейронная сеть преуспела в этом.

Не похоже ли это на задачу маркетолога, который пытается заставить нас выбирать один конкретный пункт из множества, в сущности, ничем не отличающихся друг от друга товаров?

Генератор хаоса

Во втором эксперименте испытуемый должен был нажимать на кнопку каждый раз, когда видит на экране правильный символ (например, оранжевый треугольник), и не нажимать, когда ему показывают неправильный (например, синий круг). Само собой, принимать решение требовалось очень быстро.

Искусственный интеллект выбирал, в какой последовательности показывать эти круги и треугольники человеку. Его задачей было заставить испытуемого совершить как можно больше ошибок. И действительно, подборки символов, сгенерированные компьютером-недругом, заставляли человека ошибаться на 25% чаще, чем чисто случайные последовательности оранжевых треугольников и синих кругов

Итак, искусственный интеллект продемонстрировал умение сбить человека с толку и заставить совершать ошибки. Именно в такое смятение многие хотели бы повергнуть своих противников по разнообразным играм и игрищам, от политической борьбы до экономической конкуренции.

Финансовый поверенный

В третьем эксперименте испытуемый играл роль инвестора, а искусственный интеллект – его представителя на рынке. Человек давал "деньги", а программа их "вкладывала". Искусственный интеллект получал с них "доход", оставлял себе некоторую сумму за услуги, а остальное возвращал инвестору. Ориентируясь на полученную прибыль, человек-инвестор решал, сколько денег он готов доверить своему электронному представителю в следующий раз.

Этот опыт ставился в двух вариантах. В первом ИИ играл честно и стремился к справедливому вознаграждению для себя, а во втором – к максимальной собственной выгоде, даже в ущерб интересам инвестора. Но в обеих случаях система успешно убеждала пользователя, что сотрудничество с ней – правильное решение.

Не секрет, что искусственный интеллект давно уже используется в биржевой торговле. Но этот эксперимент продемонстрировал, что ИИ может эффективно обманывать пользователя в таких делах, создавая иллюзию, что играет с ним в одной команде.

Дивный новый мир

Конечно, во всех трёх экспериментах человек и компьютер играли в игры с искусственными правилами, лишь отдалённо напоминающими человеческую жизнь. Но исследование продемонстрировало важный принцип: да, искусственный интеллект действительно может манипулировать решениями человека, в том числе и не в интересах самого человека. И лучше бы нам заранее поставить эту новую угрозу под контроль. Когда пожар полыхает вовсю, бежать в магазин за огнетушителем уже поздно.

С этой целью сотрудники CSIRO разработали и предложили правительству Австралии проект этических ограничений на исследование и использование искусственного интеллекта. Документ, насчитывающий 78 страниц, доступен в PDF-формате.

Искусственный интеллект можно использовать как во благо, так и во зло. Этим он ничем не отличается от любой другой технологии. Из железа можно выковать и плуг, и меч. Освоение ядерной энергии принесло нам сначала атомные бомбы и только потом мирные электростанции. У каждой медали две стороны, и только от нас зависит, какой стороной она к нам обернётся.

К слову, ранее Вести.Ru рассказывали о других неоднозначных применениях искусственного интеллекта. Так, он может фабриковать поддельные видеоролики и следить за эмоциями людей посредством сигналов Wi-Fi-роутера.

https://www.vesti.ru/nauka/article/2523193?utm_source=push&utm_campain=notification 

Нейросети умеют воевать — и убивать

https://meduza.io/feature/2023/07/29/neyroseti-umeyut-voevat-i-ubivat

 Интересный способ решения проблемы ИИ на войне предлагает исследователь и предприниматель Гари Маркус: «Давайте тогда изобретем новое поколение систем искусственного интеллекта, в которых знание прошлого сочетается с ценностями, представляющими будущее, к которому мы стремимся. Мы должны сосредоточиться на том, чтобы понять, как построить ИИ, который может отражать ценности и рассуждать о них, а не просто увековечивать старые данные».

https://twitter.com/GaryMarcus/status/1384173525368393736

 «Перепрограммировать человечество»‎ Google и Facebook управляют миллиардами людей. Зачем им абсолютная власть над миром?

Всё, что вы видите в соцсетях, подбирают для вас алгоритмы. Они сортируют тонны контента и показывают то, что для вас важно и интересно. Так утверждают сами соцсети, но на самом деле это не так. Алгоритмы отбирают только то, что вызовет у вас желание лайкнуть, поделиться и потратить как можно больше времени на сидение в соцсетях. Ваше внимание, да и вы сами – это товар, на котором соцсети зарабатывают миллиарды долларов. Как они взламывают мозг, чтобы не дать нам вернуться в реальный мир? И как это влияет на нашу жизнь? Еще больше о соцсетях и их влиянии на человечество в нашем масштабном проекте «Алгоритм. Кто тобой управляет?»: https://algorithm.lenta.ru/

https://lenta.ru/articles/2021/10/14/epstein/

https://www.youtube.com/watch?v=Io02_C3Ej_M

https://lenta.ru/news/2021/10/15/epstein_slezhka/

Путин: нежелание ряда стран принять новую реальность приводит к конфронтации в мире

…Разговор в зале — о новых вызовах, которые невозможно решить в одиночку. Мир стал многополярным.

"Упорное нежелание ряда стран принять эту новую реальность приводит к росту конфронтации на нашей планете, к игнорированию международного права, подрыву стратегической стабильности. Все это препятствует совместной работе. Убежден, что, вернув в центр дискуссии об обновленной модели глобального развития такие понятия как суверенитет, право народов на самобытность своего пути, мы сможем выйти на работающие договоренности", — отмечает Владимир Путин.

Многополярность требует отказа от шаблонов, уважения интересов партнеров и честной дискуссии. Но на протяжении долгих лет во многих парламентах и обществах, некогда считавшихся эталоном демократии, укоренилась совсем иная практика.

"Мы видим, к сожалению, попытки монополизировать глобальное информационное пространство, присвоить себе право на истину. Эти тенденции, кстати, распространяются и на национальном уровне. Когда в ряде стран, например, фактически возводятся цензурные запреты и барьеры. Запреты на иную точку зрения. Практика, которая, на наш взгляд, в корне противоречит и ценностям демократии, и принципу свободы слова, и парламентской традиции в целом. А она по своей природе подразумевает уважение к иному мнению и к иной позиции", — говорит Владимир Путин.

Доминирование Европы и США в глобальной экономике — в прошлом. Новые точки роста возникают повсюду. Мировой бизнес заново открывает для себя Африку. Развитию континента на форуме посвящен сегодняшний день.

"Россия всегда выступала и выступает сегодня за соблюдение международного права на основе принципа невмешательства в суверенные дела государств. Российская Федерация заинтересована во взаимовыгодном партнерстве с африканскими государствами на благо процветания наших народов", — отмечает председатель Госдумы РФ Вячеслав Володин.

…"Новые технологии, способы способны сыграть огромную позитивную роль в повышении открытости и демократизации общественной политической жизни, в укреплении демократических институтов. Но в том случае, если мы все будем помнить о главном — что цифра не заменит свободу, что именно народ всегда является источником власти, что именно человек, его права в основе основ", — отмечает Владимир Путин.

Один из главных выводов: общество не должно скатываться к архаике, но обязано найти баланс между технологиями и экологией.

132 страны, 800 участников. Форум уже завоевал репутацию одной из ведущих площадок для обсуждения проблем мирового парламентаризмах. Дискуссия шла три дня. Теперь практические вопросы предстоит обсудить и в национальных парламентах.

https://www.vesti.ru/doc.html?id=3164539&cid=5

«Данные — это новое топливо»: кто и зачем следит за вами

Что происходит с персональными данными и почему они нам не принадлежат

Дмитрий Бевза 10.02.2019, 10:11

Персональные данные пользователей больше им не принадлежат — после попадания в сеть они фактически становятся достоянием частного бизнеса или государства, но никак не самого владельца личной информации. Как эти сведения оказываются в интернете, зачем нужна слежка в поиске и кто на самом деле имеет права на данные — в материале «Газеты.Ru».

Данные — это новая нефть

Информация — кровь современного постиндустриального общества. Экономисты и социологи уже давно называют современное общество информационным.

Значительную часть всех собираемых и обрабатываемых данных составляет информация о гражданах, пользователях, резидентах, абонентах, пациентах, покупателях и пассажирах — то есть о нас с вами.

Сбором данных и их обработкой сейчас занимаются все: интернет-компании, операторы связи, банки, страховые и транспортные компании, торговые и медицинские организации, государственные структуры и даже криминал.

Без соответствующих баз данных не могут функционировать ни государственные структуры, ни бизнес, однако главные «майнеры» информации о пользователях — это интернет-компании, такие как Google, Apple, Amazon, Microsoft, мобильные операторы, производители мобильных телефонов, разработчики мобильных приложений и владельцы мобильных платформ. Объем информации о пользователях, доступный им, поражает воображение.

Госрегуляторы попытались (пока без особого успеха) как-то классифицировать информацию, касающуюся частных лиц, выделить ее и ограничить манипуляции с ней. Появился специальный термин — персональные данные. В России персональными данными является любая информация, относящаяся прямо или косвенно к определенному лицу. Есть закон (№152-ФЗ), регулирующий сбор, хранение, обработку и передачу таких данных.

Серая зона

«Очевидно, что данные сегодня — это топливо цифровой экономики. Мы уже привыкли к множеству бесплатных сервисов и приложений, которые существуют только за счет тех данных, которыми мы их ежедневно кормим. Рынок данных — это действительно многомиллиардный рынок. Они есть у всех. И уже многие научились их обрабатывать, использовать в целях скорринга, маркетинга. Тем не менее легализировать их достаточно сложно. Во многих случаях использование таких данных не совсем законно. Большинство договоров между дата-майнерами и заказчиками прикрываются различными притворными сделками по оказанию услуг, и этот рынок живет в серой зоне», — считает адвокат «Роскомсвободы» Саркис Дарбинян.

Часть данных о себе мы предоставляем явным образом, например, показывая паспорт в банке или в МФЦ, заполняя анкеты при получении услуг, но большая часть информации собирается о нас тайно. Сookie в браузере, история поиска и веб-серфинга, банковские транзакции, геоданные и множество других цифровых следов собирается без всякого уведомления.

Как правило, разрешение на сбор, обработку и использование любой информации мы даем в тот момент, когда «подписываемся» под лицензионным соглашением приложения или интернет-сервиса.

Добровольно ли мы даем такое соглашение? Не совсем. Попробуйте не дать приложению «Карты» доступ к геолокации смартфона и посмотрите, насколько неудобно станет пользоваться навигацией. А часть сервисов и программ вообще невозможно использовать без соответствующей «галочки» в лицензионном соглашении.

То, что называется благозвучным эвфемизмом «сбор пользовательских данных», можно заменить словом «слежка». Более того, если говорить о деятельности коммерческих компаний, то уже идет своеобразная война экосистем. Чем больше экосистема, тем больше рекламы откручено, больше данных для аналитики. Чем полнее аналитика, чем лучше машинные алгоритмы обработки, тем более эффективен таргетинг и выше доход.

Например, вы обсуждаете дома с детьми, на какой фильм сходить в ближайшие выходные, а на следующий день видите рекламу киноновинок в своей ленте Facebook или в контекстной рекламе в браузере. Если же вы воспользовались поиском, чтобы узнать цену на тот или иной товар, то предложения различных интернет-магазинов будут вас гарантированно преследовать еще пару недель.

Если мы говорим о мобильных устройствах, то технически такую коммерческую «слежку» реализовать не так уж сложно — достаточно установить приложение с рекламным модулем и разрешение на доступ к микрофону.

В этом случае оно сможет собирать любую звуковую информацию с помощью микрофона, смартфона или умной колонки. Пока похожий функционал есть в основном в шпионском вредоносном ПО, но вероятность такого поведения со стороны коммерческих приложений тоже существует.

Люди не видят опасности

Безопасен ли такой, практически неконтролируемый, сбор данных? Разумеется, нет. Более того, обеспечение приватности данных пользователя и защита его от взломов и утечек — не менее важная задача для современных защитных решений, чем собственно защита от вирусов или фишинга, считает веб-аналитик Владислав Тушканов.

Если у какого-то сайта «утекла» база логинов-паролей, а пользователь использовал на нем ту же комбинацию, что и для личной почты или онлайн-банка, его аккаунты на них могут быть взломаны.

Пока единственным способом ограничить себя от постоянной слежки в интернете, сохраняя при этом привычные социальные связи, является использование браузерных версий сервисов вместо соответствующих им приложений. В этом случае пользователь жертвует удобством, но значительно ограничивает для этих сервисов доступ к записной книжке, геолокации, списку установленных приложений и другим данным, хранящимся на вашем смартфоне. В отличие от мобильных приложений, веб-версии обычно продолжают работать, даже если не выдать им разрешение на доступ к GPS.

Интересны результаты невольно проведенного Facebook социального эксперимента. Компания разместила в магазинах мобильных приложений программу Facebook Research, которая позволяла компании отслеживать все действия пользователя на его смартфоне. При этом пользователям, установившим приложение, компания выплачивала по $20 в месяц и дополнительное вознаграждение за привлечение новых пользователей.

Скандал разгорелся нешуточный, а Apple даже удалила из App Store приложение, обвинив Facebook в нарушении условий использования специальных сертификатов.

Однако не только Apple, у которой свои счеты с Цукербергом, не понравилось публичное размещение «шпионской» программы. Общественная реакция говорит о том, что несмотря на всю «новую прозрачность» и сетевой «эксгибиционизм», насаждаемый социальными сетями, люди ценят приватность и не хотят делиться информацией о себе с кем попало.

Кто владеет данными?

В текущей ситуации хорошо видны несколько фундаментальных противоречий между тремя основными сущностями современного информационного общества: пользователями, бизнесом и государством.

Обычный человек не хочет, чтобы государство или коммерческие организации следили за каждым его шагом, но при этом желает пользоваться бесплатными сервисами, невозможными без сбора данных.

Бизнес хочет максимально свободно собирать, хранить и использовать информацию о своих пользователях, причем без всяких ограничений, зарабатывать на ней и ни с кем не делиться доходами от такого рода деятельности.

Государство хочет иметь максимально полную информацию о своих гражданах и при этом ограничивать в этом сборе бизнес и все контролировать.

То есть мы имеем ситуацию, когда интересы каждой из сторон совершенно не совпадают, что создает почву для многочисленных конфликтов.

По словам руководителя проектов компании IDX Светлана Беловой, нынешние противоречия рынка данных связанны с отсутствием четкого ответа на вопрос: кому принадлежат данные о пользователе.

«С нашей точки зрения, противоречия между государственной политикой в отношении персональных данных и бизнесом, который стремиться коммерциализировать пользовательские данные, могут быть сняты, если будет однозначно определено, что персональные данные принадлежат самому субъекту, и граждане смогут активно участвовать в управлении своими данными. Ужиться противоположные тренды могут очень просто.

Необходимо обеспечить правовую основу вовлечения субъекта персональных данных в оборот его данных, сделать гражданина полноправным участником рынка ПД, заинтересованным в качестве и полноте его «цифрового профиля».

Все противоречия исчезнут, когда гражданин, а не только частные компании и государство, получит информацию о собираемых данных и возможность распоряжаться их использованием», — считает Белова.

По мнению Дарбиняна, для того чтобы найти баланс интересов следует воспользоваться европейским опытом.

«GDPR задал новые стандарты в части культуры сбора, хранения и использования данных. Требуется не только согласие пользователя, но и законная цель. В противном случае компанию ждут серьезные проблемы в Европе — штрафы, запрет на деятельность на европейском рынке. У нас тоже сейчас идет активная дискуссия по поводу реформирования законодательства о персональных данных. Осенью 2018 года Россия подписала модернизированный протокол к 108-ой Конвенции, и после ее ратификации нам предстоит внести множество изменений, и даже полностью поменять систему охраны данных, в том числе создать действительно независимый уполномоченный орган. Недавно был предложен законопроект о больших данных. Его тоже долго обсуждали, критиковали», — заявил эксперт.

Адвокат «Роскомсвободы» отметил, что иногда звучат и радикальные идеи.

«Например, во ФРИИ [Фонд развития интернет-инициатив] предложили недавно идею заключения договора на продажу данных между пользователем и платформой. Чтобы после покупки оператор мог делать с данными что угодно без дальнейшего согласия пользователя. Это очень тяжелая дискуссия. Но я надеюсь, рано или поздно мы придем к консенсусу и создадим реально работающие инструменты, которые с одной стороны дадут защиту самим пользователям, а с другой стороны, не задушат бурно развивающийся рынок», — заявил Дарбинян.

https://www.gazeta.ru/tech/2019/02/09/12158017/not_our_data.shtml

Синьхуа (Китай): биометрические технологии бросили вызов персональной безопасности

01.03.2019

Недавно в Китае у компании, занимающейся системами распознавания лиц, произошла утечка 25,6 миллионов данных. Это вызвало множество разговоров об информационной безопасности. Вслед за реальным появлением в повседневной жизни технологий с искусственным интеллектом, все более очевидна важность сохранения конфиденциальности данных. Что же считается частной информацией в эту эпоху? Какие существуют проблемы безопасности, когда производится такое огромное количество информации? Что мы можем сделать для сохранения данных?

Искусственный интеллект непрерывно развивается, а получаемых данных все больше?

Журнал «Экономист» когда-то написал: информация — это новая нефть.

Задумайтесь, сейчас большие данные знают о нас практически все: каждую прослушанную песню, заказанную доставку и вызванное такси. Всю эту информацию могут заполучить компании, а затем, тщательно проанализировав, применить в торговле.

Вслед за развитием технологий ИИ, в особенности за внедрением и использованием биометрических данных, коммерческие компании получают все больше и больше данных. Каждый человек обладает физиологическими (отпечатки пальцев, черты лица, радужка глаза) и поведенческими (походка, голос, почерк) особенностями, которые анализируют и распознают с помощью биометрии. Так, любой может быть идентифицирован по перечисленным уникальным характеристикам.

Биометрия характеризуется как система, основанная на уникальности, стабильности, неразрушимости и необратимости. Самое главное отличие от прежнего сбора информации заключается в том, что биометрические данные — ключ к идентификации личности….

Какие вызовы безопасности бросают новые технологии?

…Кроме того, в процессе «сканирования лица» считывается и сохраняется огромное количество информации о человеке, начиная от имени и фамилии, пола, возраста, заканчивая родом деятельности и эмоциями в различных ситуациях. Если злоумышленники украдут ее, то человеку будет нанесен серьезный вред. Это проблема не только для сетевой, но и общественной безопасности.

Соучредитель компании «Дейта Инсайт Текнолоджи» (Data Insight Technology) и известный эксперт в области больших данных Ту Цзыпэй говорит: «Я переживаю, что большие данные будут использоваться для совершения высокотехнологичных преступлений».

Сейчас повсеместно установлено достаточно камер. В их работу внедряются алгоритмы на базе больших данных. Они могут, посредством анализа снятых лиц, распознать повседневные привычки людей. Тем самым, выявляются закономерности, связанные с людьми, автомобилями в определенных местах.

Сейчас кажется, что подобная практика лишь часть какого-либо кино. Однако в ближайшем будущем это станет обычным делом. Владение подобной аналитической силой равно контролю над всеми членами общества. Данная мощь представляет большую скрытую угрозу общественной безопасности и интересам.

Что каждый может сделать для безопасности данных?

Академик Ни Гуаннань считает, что если компании контролируют информацию о пользователях, то они берут на себя ответственность за ее безопасность. Предприятия должны обладать способностью защищать личную информацию и избегать ее утечек, чтобы не наносить вред. Ведь в эпоху больших данных он может очень сильно повлиять на персональную безопасность и жизнь человека.

Доцент юридического института Центрального университета экономики и финансов (г. Пекин) и член ассоциации исследований в области информационного права Лю Чуань считает, что китайские компании могут пользоваться следующими указаниями при совершенствовании системы безопасности:

1. Обращать пристальное внимание на защиту персональных данных.

2. Усовершенствовать правопорядок о данных субъекта и их применении.

3. Усовершенствовать механизм обработки данных.

4. При необходимости назначать людей, ответственных за обеспечение безопасности.

5. Усилить контроль и отчетность за утечками данных.

Но не только компании должны нести ответственность за безопасность. Правительственные органы играют ключевую роль в этой сфере. Они разрабатывают акты и нормы по обеспечению защиты данных….:

https://inosmi.ru/politic/20190301/244651917.html

Какие новые технологии несут в себе скрытые опасности

Маргарита Герасюкова 06.10.2019, 17:15

С развитием современных технологий киберпреступникам приходится изобретать все новые и новые методы, чтобы осуществлять хакерские атаки в постоянно меняющейся ситуации. Портал Business Insider совместно с исследователями в области информационной безопасности выделили семь технологий будущего, которые вызывают больше всего опасений.

Deepfake-фото и видео

…Такие программы, как deepfake, могут в реальном времени подменить изображение лица на любом видео или подделать голос человека. Причем для их работы достаточно всего лишь несколько аудио- и видеофайлов длиной в минуту.

Это становится платформой для деятельности мошенников», — сообщил эксперт.

Как отметила заместитель директора по разработке технологий ABBYY Татьяна Даниэлян, необходимо понимать, что ни одна технология не приносит вред человеку сама по себе. Решения и алгоритмы создают люди, и именно они определяют, в каких целях их будут использовать.

«Первые deepfakes появились меньше трех лет назад, но некоторые подобные видеофрагменты уже почти невозможно отличить от реальности — по крайней мере, когда на них смотрят не-специалисты. Как и любую другую технологию, ее можно использовать во благо и во вред. При этом создание и обучение таких нейросетей требует значительных ресурсов. Для этого нужны большие вычислительные мощности, видео- и голосовые фрагменты хорошего качества, время на доработку архитектуры нейросети и анализ ошибок…

Искусственный интеллект

Предполагается, что в будущем хакеры будут активно использовать искусственный интеллект, чтобы перехитрить системы кибербезопасности.

Как указывает директор департамента информационной безопасности компании Oberon Андрей Головин, искусственный интеллект (ИИ) уверенно развивается с целью широкого применения в IT-индустрии. Он позволяет автоматизировать и исследовать кибербезопасность «жертвы» быстрее и качественнее, чем это сделал бы сам злоумышленник.

«Одним из популярных направлений применения ИИ является имитация голоса руководителя компании, который просит перевести деньги на счет. В 2019 году произошел первый в истории случай кражи денежных средств с помощью ИИ….

Квантовые компьютеры

Согласно мнению экспертов, традиционные методы криптографии станут неактуальны через 5-10 лет ввиду широкого распространения квантовых вычислений. Это представляет серьезную угрозу банковским транзакциям и цифровым валютам, таким как Bitcoin, поясняет Андрей Головин. Используя квантовый компьютер, можно будет легко вычислить приватный ключ по связанному с ним публичному ключу, что позволит злоумышленникам завладеть финансовыми активами пользователей….

Интернет вещей

…С одной стороны, интернет вещей упрощает жизнь, но с другой — порождает новую волну угроз информационной безопасности, соглашается Александр Черныхов…. 

5G

Все, что сейчас происходит вокруг нас, так или иначе связано с цифровым миром. В будущем еще больше устройств будет подключено к интернету. Количество и скорость информации растет по экспоненте, и скоро нас ждет 5G, говорит «Газете.Ru» технический директор Check Point Software Technologies в России и СНГ Никита Дуров.

…«Распространение сетей 5G приведет к появлению все большего количества сервисов — начиная с проектов безопасного и «умного» города и заканчивая новыми подходами в здравоохранении. Их, как и любые другие сервисы, нужно обеспечивать высоким уровнем безопасности — потому что все, что подключено к сети, потенциально можно взломать, используя уязвимость. И не важно, 4G это или 5G», — заключает эксперт.

Технологии на аутсорсе

…«Так, многие программные продукты используют библиотеки, написанные сторонними разработчиками, а электронные сервисы «привязаны» к дата-центрам, осуществляющим хранение и обработку информации.

Таким образом, безопасность организации и ее конечного продукта в значительной степени зависит в том числе и от безопасности компонентов, предоставляемых компаниями-партнерами, а также каналов связи между участниками глобальных бизнес-процессов»…

Онлайн-операции

…Увеличение количества операций, проводимых через интернет, вероятно, приведет к тому, что компании будут хранить больше данных в сети, указывает старший инженер-программист в Avast Войтех Бочек. Это может сделать организации привлекательными целями, с одной стороны, для хакеров, которые хотят получить максимальную прибыль, и, с другой стороны, для стран, которые планируют шпионские атаки.

«С точки зрения промышленных IoT-устройств, их защита очень сложна. Проблема с промышленными умными устройствами и промышленными протоколами связи заключается в том, что они обычно полагаются на стандарты и протоколы, которые были разработаны задолго до появления IoT -устройств
э и сейчас они не защищены. Решение состоит в том, чтобы заменить их более новыми и безопасными вариантами, но это связано с большими затратами. Поэтому пока единственный правильный способ защитить промышленную среду — не подключать умные устройства на производстве к интернету», — считает Бочек.

https://www.gazeta.ru/tech/2019/10/05/12736819/tech_future.shtml?utm_source=push

США ищут способ, как управлять мыслями солдат

Москва, 11 июня - "Вести.Экономика". Исследовательское подразделение Министерства обороны США финансирует проекты, целью которых станет изобретение способа мгновенного чтения мыслей солдат при помощи генной инженерии. Конечная цель таких инициатив — создание оружия, которым человек мог бы управлять через нейроинтерфейс.

Через Агентство перспективных оборонных исследовательских проектов (DARPA) правительство Соединенных Штатов утвердило бюджетную линию для ученых на разработку технологий, способных мгновенно читать мысли солдат. Проект будет сочетать в себе последние достижения в области генной инженерии, нейробиологии и нанотехнологий. Цель проекта — создать оружие, управляемое мыслью или передавать изображения непосредственно из мозга в мозг.

Название новой программы – N3 ("Нейрохирургическая программа следующего поколения", Next Generation Nonsurgical Neurotechnology). DARPA заключила контракты на разработку с шестью группами, на сумму до $19,48 млн в каждом отдельном случае. У исследователей есть год, чтобы разработать систему, способную считывать информацию с ткани головного мозга, с последующим 18-месячным периодом тестирования на животных.

Участники имеют особую миссию по разработке технологии, способной обеспечить двунаправленный канал для быстрой и бесперебойной связи между человеческим мозгом и машинами. И все без какой-либо операции. Агентство заинтересовано в системах, способных считывать и записывать до 16 независимых местоположений в части мозга размером с горошину, и все с задержкой не более 50 миллисекунд.

…Процесс, описанный в неопубликованной научной статье, является важным шагом на пути к созданию потенциальной системы для непосредственного подключения человеческого мозга к компьютерам.

Авторы называют свою систему "швейной машиной" для мозга. Ученые удалили кусочек черепа крысы и поместили туда иглу, которая внедряет гибкие электроды в ткани мозга. Исследователи пока собирают отзывы о своей работе, прежде чем представить ее для рецензирования и публикации в научном журнале. Авторы и представитель Neuralink отказались от комментариев.

До того как подобные технологии начнут применяться на людях, еще долгие годы, но научная работа важна, так как описывает путь к мониторингу и потенциально стимуляции мозговой деятельности с минимальными последствиями для костей черепа. Это может позволить Neuralink когда-нибудь создать устройство с искусственным интеллектом, которым люди могут управлять силой мысли…:
Подробнее: https://www.vestifinance.ru/articles/120678

Топ-10 технологий распознавания личности

Москва, 9 ноября - "Вести.Экономика" По оценкам исследовательской фирмы Technavio, в 2016 г. мировой рынок систем распознавания лиц составил $2,3 млрд, но к 2021 г. он вырастет почти в три раза и достигнет $6,5 млрд. Однако эффективность, безопасность и этичность технологии до сих пор находятся под вопросом. Эти технологии можно использовать во благо: например, для сортировки частных фотоальбомов и для поиска родственников. Но есть и другая возможность — злоупотребления со стороны частных компаний и государственных органов. Не в тех руках технология способна стать опасным инструментом дискриминации и дегуманизации. Несмотря на это, распознавание лиц с использованием систем искусственного интеллекта уже широко применяют для поимки преступников в Китае, США и России.

Подробнее: https://www.vestifinance.ru/articles/109817

Журналист финской «Юле» три дня провел в Синьцзяне — автономном районе Китая, где где живут около 12 миллионов уйгуров, которые исповедуют ислам суннитского толка. Китай следит за их жизнью с помощью новейших технологий, словно террористом может оказаться любой житель района, пишет журналист. Увиденное своими глазами он сопровождает данными из докладов «Хьюман райтс вотч» и «Эмнести интернешнл».

Yle (Финляндия): птицы-шпионы отслеживают уйгуров в приграничном Китае

За Великой китайской стеной

Журналисты финской «Юле» побывали в том районе Китая, где миллион уйгуров отправили в лагеря, чтобы научить их преданности компартии

04.11.2018 Йенни Матикайнен (Jenni Matikainen)

....Властям значительно помогают камеры. В Синьцзяне они установлены повсюду.

Синьцзян стал лабораторией для отработки технологий слежки и антиутопией будущего для всего Китая. Здесь тестируют то, что в будущем может появиться по всей стране.

По небу летают птицы-шпионы, которые следят за людьми — то есть замаскированные под голубей дроны, оснащенные камерой.

У дверей стоят охранники и установлены устройства, которые определяют личность человека при помощи системы распознавания лиц. Если в человеке есть что-то подозрительное, устройство начинает пищать. В черном списке можно оказаться, например, из-за ареста родственника.

Известен каждый шаг любого жителя района Синьцзян.

У дорог стоят столбы, на которых закреплены камеры. Автозаправки, вокруг которых стоят заборы с колючей проволокой и дежурят полицейские патрули, напоминают военные объекты. Покупка каждого литра бензина фиксируется. Представители власти боятся, что топливо могут использовать для создания бомб.

Здесь расовая предвзятость — это повседневность. Мы проходим мимо пунктов контроля, у которых останавливают уйгуров, но спокойно пропускают китайцев без проверки документов. Уйгуров науськивают следить друг за другом, прямо как в Северной Корее.

«Люди перестали ходить друг к другу в гости. Если ко мне кто-то подходил на улице, я сразу же убегал», — описывает уйгур жизнь в Синьцзяне в беседе с Хьюман райтс вотч.

Живущие в Синьцзяне уйгуры вынуждены сдавать телефоны на проверку. Полицейские сканируют телефоны и ищут в них религиозные материалы. По информации Эмнести, в лагерь можно попасть за установленное приложение Вотсапп.

Информационное агентство Рейтер сообщило, что устройства уже распространены в других районах Китая. При помощи сканеров можно провести анализ информации, скачанной на телефон, видео, фотографий и содержания социальных сетей. ...: https://inosmi.ru/social/20181104/243671515.html 

СМИ: Китайские пограничники заражают смартфоны туристов

НИКОЛАЙ БЕЛКИН 03.07.2019 10:57

Сотрудники пограничной службы КНР устанавливают шпионское ПО на смартфоны туристов, въезжающих на территорию страны через некоторые контрольно-пропускные пункты в Синцзян-Уйгурском автономном районе. Расследования об этом вышли накануне вечером одновременно в нескольких изданиях, включая The Guardian и The New York Times.

Согласно многочисленным сообщениям в СМИ, находящийся на северо-западе Китая и населённый исповедующими преимущественно ислам национальными меньшинствами район стал в последние годы настоящим полигоном для тестирования цифровых технологий с целью ограничения прав и свобод определённых групп граждан.

…Судя по всему, приложение подразумевает удаление после проведения анализа на границе, однако пограничники иногда забывают его удалить — так программу и обнаружили. Пострадавшие туристы обратились в СМИ, а те проанализировали функции программы совместно с экспертами по безопасности.

https://hitech.vesti.ru/article/1216550/

читайте также

​Китайское приложение отобразит "ненадежных" граждан на карте

Президент Samsung ставит вопрос об этичности допуска нейросетей до ДНК

Москва, 7 ноября - "Вести.Экономика" Президент Samsung Electronics Янг Сон описывает будущее, в котором каждая деталь жизни — вплоть до ДНК — отслеживается обширными "банками биоданных", которые хранят геном, помогают диагностировать заболевания, предлагают прогнозы и помогают в профилактике заболеваний.

Базы данных будут неотъемлемой частью обширного рынка больших данных, где компании будут знать почти все о вас, в мире вездесущих сенсоров. Топ-менеджер южнокорейской корпорации считает, что уже в ближайшем будущем нас ждет использование датчиков, которые обеспечат фантастическую детализацию, отслеживая показания крови, данные с автомобиля, сведения о принимаемой пище, температуре вашего дома и т. д.

…В своем выступлении Сон описал грядущий взрывной рост данных, управляемых ИИ. Этот сценарий может улучшить качество жизни, однако есть вероятность деструктивного воздействия на мир вокруг. Есть много возможностей вторгнуться в личную жизнь людей или ограничить их права на основе данных, хранящихся о них. В Китае, например, правительство начало использовать систему социального рейтинга против граждан. Высокий рейтинг повышает шансы устроиться на хорошую работу и дает приоритет при обслуживании в госучреждениях. Низкий – возводит человека в статус маргинала, лишенного привилегий.

….Объединение сотен или тысяч слоев, обеспечивает преимущество в сравнении с самыми опытными экспертами. Алгоритмы ИИ сейчас превосходят людей в распознавании речи и лиц, различных играх, диагностике некоторых видов рака на основе результатов МРТ.

Однако такие фантастические возможности могут толкнуть компании на различные злоупотребления данными. Об этом и предупреждает топ-менеджер Samsung Electronics: "Есть проблемы, над которыми надо задуматься, в их числе этика ИИ".
Подробнее: https://www.vestifinance.ru/articles/109737

6 рисков, связанных с развитием искусственного интеллекта

Москва, 5 марта - "Вести.Экономика". 

… Несмотря на то что большинство современных устройств создано так, чтобы быть благом для человечества, эксперты полагают, что любой мощный инструмент можно использовать с целью нанести вред, если этот инструмент попадает в плохие руки.

Риски искусственного интеллекта

Несмотря на то что машина с суперинтеллектом пока не изобретена, существует ряд юридических, политических, финансовых и регуляторных вопросов, которые необходимо решить, чтобы быть готовыми к безопасной работе такого устройства.

Даже несмотря на отсутствие такой машины, искусственный интеллект уже сейчас может нести в себе определенные риски. Ниже мы расскажем о них подробнее.

Автономное вооружение

Искусственный интеллект можно запрограммировать сделать что-то опасное, так, например, автономное вооружение запрограммировано убивать. И это один из рисков искусственного интеллекта.
Эксперты полагают, что ядерная гонка может в итоге перерасти в мировую гонку автономного вооружения.
Помимо того, что автономное вооружение может сделать что-то по-своему, более реальная угроза заключается в том, что такое оружие попадет в руки правительства, которое не очень ценит человеческую жизнь.
Если оно будет однажды развернуто, то свернуть такое вооружение будет крайне сложно.

Манипулирование общественным мнением

Социальные сети, благодаря автоматическим алгоритмам, очень эффективны в целевом маркетинге.

Они знают, кто вы, что вам нравится, а также очень хорошо умеют предполагать то, о чем вы думаете.
Все еще идет расследование в отношении Cambridge Analytica и других компаний, связанных с ней, которые использовали данные 500 млн пользователей Facebook, чтобы предсказать итоги президентских выборов 2016 г. и итоги референдума по Brexit в Великобритании. Если обвинения будут подтверждены, это продемонстрирует огромные возможности искусственного интеллекта в области манипуляции общественным мнением. Распространяя пропаганду лицам, определенным с помощью алгоритмов и личных данных, искусственный интеллект может распространять любую информацию, которая потребуется в любом формате, который будет выглядеть наиболее убедительным, неважно, будет ли это правда или ложь.

Вмешательство в частную жизнь

В настоящий момент можно отследить и проанализировать каждый шаг человека в интернете, а также то, что каждый человек делает в рамках своего бизнеса.
Камеры находятся практически повсюду, а механизмы распознавания лиц позволяют узнать, кто вы такой.
Эти механизмы способствуют развитию системы социальных кредитов в Китае, которая дает каждому жители страны определенное количество баллов на основе их поведения.
Оцениваются такие нарушения, как переход дороги на красный свет, курение в неположенных местах, сколько времени человек проводит за видеоиграми.

Большой брат действительно следит и принимает решения на основе этих данных. Это не только вмешательство в частную жизнь, но это может быстро привести к социальным притеснениям, опасаются аналитики.

Несовпадение наших целей с целями машины 

Люди ценят машины с искусственным интеллектом за их эффективность.

Но если мы не задаем машине четкие цели, то это может быть опасно, так как у машины будут иные цели, чем у нас.

Например, команда "доставь меня в аэропорт как можно быстрее" может иметь неприятные последствия.

Если мы не оговариваем, что правила дорожного движения должны быть соблюдены в любом случае, машина может выполнить просьбу буквально и доставить в аэропорт максимально быстро, но оставив на своем пути немало жертв.

Дискриминация

Так как машины могут собирать, отслеживать и анализировать все данные о вас, то вполне вероятно, что эти машины будут использовать эти данные против нас.

Несложно представить себе, что страховая компания отказывает вас, основываясь на данных о том, сколько раз вас поймала камера, когда вы разговаривали за рулем по телефону.

Или же потенциальный работодатель может отказать на основе вашего "социального рейтинга".

Любая технология может использоваться неправильно. Сегодня искусственный интеллект используется в лучших целях, в том числе для улучшения качества медицинской диагностики, для поиска новых способов лечения рака или для повышения безопасности автомобилей.

К сожалению, по мере того как расширяются возможности искусственного интеллекта, он может стать опасным или использоваться с дурными намерениями.

Именно поэтому так важно обсуждать возможности сделать искусственный интеллект безопасным и минимизировать его разрушительный потенциал.
Подробнее: https://www.vestifinance.ru/articles/115702

ТРЕТЬЯ ВОЛНА УЖАСА ЗАПУЩЕНА! КОГДА НАЧНЁТСЯ ЦИФРОВОЙ КОНЦЛАГЕРЬ?!

2021. gada 26. febr.

А ТАК ЖЕ МНОГО ЧЕГО ЕЩЁ НЕСОМНЕННО ЖИЗНЕННО ВАЖНОГО ВЫ УЗНАЕТЕ В ЭТОМ ВИДЕО! ..: https://www.youtube.com/watch?v=3qPV-gvKC04&feature=share&fbclid=IwAR0Kprx69Ub5rR5PWk2b7PpoG6XPp5Dd6jJRGP3Z6M1B96IIpfQNPyp-Hhs

The Conversation (Австралия): роботы могут превзойти нас в виртуальном сражении, так что не отдавайте под их контроль реальную армию

06.11.2019 Тоби Уолш (Toby Walsh)

Разработчик искусственного интеллекта компания DeepMind анонсировала новинку — бота под названием AlphaStar, который будет играть в популярную онлайн-стратегию Starcraft-2 на уровне «гроссмейстера»….

Войны роботов

Возникает вопрос — увидим ли мы в будущем, как роботы не только участвуют в войнах, но и планируют их? В действительности уже происходит и то, и другое.

Несмотря на множество предупреждений исследователей искусственного интеллекта (таких, как я), основателей роботехнических компаний, лауреатов Нобелевской премии и церковных лидеров, — полностью автономное оружие, известное как «робот-убийца» уже было создано и скоро будет использоваться.

В 2020 году Турция развернет дроны-камикадзе на границе с Сирией. Эти дроны будут пользоваться компьютерным зрением, чтобы идентифицировать, выслеживать и убивать людей без человеческого вмешательства.

Это ужасная разработка. У компьютеров нет моральных возможностей принимать морально взвешенное решение, кому жить, а кому умирать. Они не обладают эмпатией или сочувствием. «Роботы-убийцы» изменят саму природу конфликтов в худшую сторону.

…Машину нельзя привлечь к ответственности за принятые ей решения. Ответственность несут только люди. И это краеугольный камень международного гуманитарного права. Тем не менее, чтобы прорваться через туман войны и разобраться с обширным количеством информации, идущей с фронта, генералы будут все больше полагаться на поддержку компьютера в своих решениях.

Если результатом этого станет меньшее количество жертв среди гражданского населения, уменьшение огня по своим и большее уважение к международному гуманитарному праву, — мы должны приветствовать такую компьютерную помощь. Но окончательное решение должно приниматься человеком, а не машиной…:

Тоби Уолш — профессор в области искусственного интеллекта в Университете Нового Южного Уэльса и исследовательского сообщества Data61.

https://inosmi.ru/science/20191106/246164984.html

Yeni Şafak (Турция): наши внуки могут стать цифровыми рабами

17.03.2019 Кемаль Озтюрк (Kemal Öztürk)

Мы живем в самый разгар революции, которая масштабнее, мощнее и стремительнее промышленной революции. Одни называют ее «индустрией 4.0», другие — «цифровой революцией». Я за второй вариант.

Мы пока не знаем, как будет идти, развиваться эта революция, которая по своим эффектам гораздо грандиознее промышленной революции. Она, определенно, меняет нашу жизнь во многих сферах, от телекоммуникаций до здравоохранения, от экономики до политики. Но в какой мере жизнь человека в конечном счете преобразуется — этого мы пока точно установить не можем. Ведь революция продолжается…

Ошибочные практики в образовании и СМИ

…На самом деле для того, чтобы не отставать от цифровой революции, необходима ментальная трансформация. Без обеспечения этой умственной перестройки вы не сможете достичь успеха, сколько бы вы ни преобразовывали и ни обновляли технологии.

…Так же, как у промышленной революции, которая трансформировала все, от урбанизации до индивидуальности, от образования до экономики. В социальной сфере произойдут определенные разрушения, и те, кто будет проводить «профилактические работы», защитят свои общества от вредоносных последствий, а остальные столкнутся с более масштабным ущербом.

Есть опасность, что наши внуки станут цифровыми рабами

Сейчас Запад обсуждает не адаптацию к цифровой революции. Началась другая дискуссия: чему мы будем учить наших детей? Обсуждается вопрос о том, что упор нужно делать не столько на программное обеспечение, его кодирование, робототехнику, сколько на человеческую ценность, искусство, музыку и прочее… То есть на то, что не под силу роботам. Поскольку предполагается, что в будущем главной опасностью для людей станут созданные ими роботы.

…Не знаю, насколько нам удастся спастись от повседневных дискуссий и сделать это, но я также уверен в следующем: если мы не сможем выработать эффективную, охватывающую все сферы политику для адаптации к цифровой революции, это будет означать, что наше будущее в опасности. Подобно тому, как мы сегодня критикуем наших предков, которые не смогли идти в ногу с промышленной революцией, следующие поколения будут критиковать нас еще больше.

Если мы не примем меры сегодня, в будущем эта революция превратит наших внуков в цифровых рабов. Ситуация настолько серьезна.

https://inosmi.ru/social/20190317/244760436.html

К 2020 году китайские власти планируют внедрить единую систему рейтинга граждан. Использование камер наблюдения и хитроумных систем, следящих за каждым шагом, становится обычной практикой в Китае. Пока некоторые представители мировой общественности считают систему социального кредитования граждан «пугающей и отвратительной», многие китайцы вообще не в курсе происходящего. К чему это все приведет?

ЭКД! (Россия): 1984 или 2020? Система социального кредита в Китае

19.03.2019 Полина Ширяева

Согласно официальному государственному плану, к 2020 году в КНР планируется внедрить единую систему социального рейтинга граждан. Что это такое и почему она вызывает опасения в основном лишь за пределами Китая? В иностранных СМИ кредитную систему граждан уже давно окрестили антиутопической. Кажется, что все самые страшные для свободолюбивого человечества сценарии из «1984» Джорджа Оруэлла, «Мы» Евгения Замятина и сериала «Черного зеркала» становятся реальнее и ближе. Может ли такое случиться в современном Китае, разбирался ЭКД.

Деревня Цзякуан Мацзя, провинция Шаньдун

52-летняя Ян Цююнь рассказала «Саус Чайна Монинг Пост» (South China Morning Post), как работает система в ее родной деревне Цзякуан Мацзя. Ян — одна из 10 сборщиков информации для составления рейтинга жителей деревни. Женщина работает каждый день, в распоряжении у нее только ручка и бумага. Ян считает, что система помогает людям развиваться, стать лучше…

Город Жунчэн, провинция Шаньдун

В зависимости от количества очков, жунчэнцев ранжируют от ААА до D-статуса. Каждый взрослый житель города, включая работников-мигрантов, изначально имеет 1000 базовых очков. Их можно приумножать и терять: все зависит от ваших ежедневных поступков. Донорство крови, волонтерство, сообщения о контрабанде и привлечение инвестиций в город помогут вам стать гражданином ААА. Чтобы не носить D-статус, не нарушайте ПДД, соблюдайте политику планирования семьи, вовремя платите налоги.

Самые законопослушные горожане имеют ряд преимуществ: бесплатный медосмотр, 30 кубометров бесплатной воды в год, скидка в 300 юаней (44 доллара) на оплату счетов за отопление и льготы по кредитам.

КОНТЕКСТ

Китай будет определять ценность людей

Futurism

20.02.2018

По любви или по расчету?

Eastday.com

18.02.2018

Как работает интернет-цензура в Китае

The Daily Dot

12.03.2013

Как Китай борется с социальной нестабильностью?

Stratfor

06.05.2011

D-граждане теряют доступ к государственным субсидиям, лишены возможности занимать государственные должности или участвовать в конкурсах на государственные тендеры. Помимо этого, они сталкиваются с ограничениями по банковским кредитам, им могут отказать в передвижениях по стране или не взять на работу.

…Хотя система пока не проработана до конца, в амбициях у разработчиков — влияние на все сферы жизни горожан. Система должна быть хорошо отработана, прежде чем станет общегосударственной. Она призвана решить множество реальных проблем в КНР, вызванных многократным нарушением законов. Система социального кредита поможет контролировать мошенничество, контрабанду, повысить качество пищевой продукции и бороться с коррупцией.

«Система позволит надежным гражданам получить выгоду, куда бы они ни пошли. В то же время дискредитированным будет трудно сделать даже шаг», — из официального доклада правительства.

Подобные системы социального кредита введены по всему Китаю в разных городах и провинциях: в Шанхае, в провинциях Фуцзянь, Цзянсу, Гуандун и Шаньдун. Список можно продолжать, так как опыт рейтингования жителей встречается в Китае повсеместно.

Китай и мир, мнения

Вездесущий контроль над общественной жизнью пугает современного человека: система может быть использована для усиления политического влияния.

На экономическом форуме в Давосе миллиардер Джордж Сорос назвал Си Цзиньпина самым опасным врагом демократических обществ, а систему социального кредитования граждан — «пугающей и отвратительной».

Саманта Хоффман из Австралийского института стратегической политики рассказала, почему она считает идею опасной, а правительство КНР корыстным:

«Если бы партия действительно была заинтересована в решении проблем, ей бы не понадобился социальный рейтинг. Достаточно просто функционирующего гражданского общества и верховенства закона», — из исследования системы социальных кредитов для граждан КНР Саманты Хоффман.

В России также находятся негативные отзывы о китайском социальном рейтинге граждан. В основном российские новостные интернет-издания стараются не делать поспешных выводов о системе. Статьи ТАСС, «ТиДжорнал» (Tjournal) и Магазеты подходят к планам КНР критически, но не называют правительство «бесчеловечным» или «врагом демократии». Возможно, это вызвано более тесными связями Китая с Россией и общим идеологическим прошлым.

Как бы то ни было, когда речь заходит о тотальном контроле общества с использованием камер наблюдения и хитроумных систем, следящих за каждым твоим шагом, многим на ум приходят лишь апокалиптическое развитие событий. Всем становится не по себе.

А что на счет китайцев? Большинство из них не против государственного вмешательства в личную жизнь.

«Все на совести каждого человека. Если он делал что-то плохое, например, террорист, он, конечно, чего-то боится. Если он нормальный человек, ему нечего скрывать и бояться. Я обычный человек и не переживаю, если другие обо мне что-то узнают, даже те, кого я люблю», — китайский студент (20 лет) о доступе государства к личной информации граждан КНР.

Однако большинство китайской молодежи не в восторге от тенденции усиления государственного контроля, их пугает использование современных информационных технологий в мониторинге жизни обычных граждан. Однако открыто восстающие против системы кредитов — в основном люди, от нее пострадавшие.

Многие жители Китая все же готовы пожертвовать личной свободой ради общественной безопасности и процветания:

«Конечно, мне немного не комфортно. Не очень приятно, когда незнакомец знает все о тебе. Всех волнует безопасность личной информации. Здесь все двояко. Есть две стороны одной медали. Хорошее и плохое», — студентка магистратуры по обмену из Китая (25 лет).

Мнения мирового и китайского сообществ явно разнятся, что объяснимо. У Китая «особый путь развития», а менталитет китайского народа кардинально отличается от нашего. Но есть ли глобальные, мировые законы морали, которые нельзя нарушать? Нужно ли миру перестать делать выводы о смертоносности системы социального рейтинга для развития китайского общества или пора вставать на защиту неотъемлемых прав человека? Стоит ли отнести опасения мирового сообщества к вмешательству во внутреннюю политику суверенного государства или к нежеланию оставлять в опасности полтора миллиарда человек? Наверное, лишь время разрешит эту противоречивую ситуацию.

https://inosmi.ru/social/20190319/244773670.html

Чем грозит система социального кредита в Китае иностранным компаниям?

Москва, 14 октября - "Вести.Экономика". Иностранные компании, которые уже испытывают трудности при ведении бизнеса в Китае, столкнутся с еще более суровой реальностью, поскольку Пекин наращивает планы по созданию корпоративной рейтинговой системы, пишет South China Morning Post.

Система социального кредита будет охватывать все коммерческие организации независимо от их размера. При определении социального рейтинга будут учитываться судебные решения, налоговые отчеты, вопросы охраны окружающей среды, государственное лицензирование, качество продукции, безопасность труда и административные наказания со стороны регуляторов рынка….
Компании будут помечены как имеющие отличный, хороший, удовлетворительный или плохой социальный рейтинг, на основании чего правительство будет устанавливать различные степени надзора. Руководство компаний с плохим рейтингом будет вызвано местными чиновниками для подробного анализа, который будет включать планы по устранению проблем.

Ожидается, что все зарегистрированные в Китае фирмы и частные лица будут в конечном счете охвачены системой, которая будет официально запущена в конце 2020 г.
Для оценки международных компаний программа будет анализировать множество данных, включая деловые контракты, социальную ответственность, соответствие нормативным требованиям и количество членов Коммунистической партии, которых они нанимают. Компании, занесенные в "черный список", могут столкнуться с наказаниями, включая отказ в доступе к дешевым кредитам, более высокие налоги на импорт и экспорт и запрет на выезд из Китая ключевого персонала.
Иностранные компании должны будут передавать Пекину больше данных для проверки. Обладание большими объемами данных и полномочия по назначению наказаний придадут властям еще большую силу в поддержании поведения компаний в рамках закона.
В рамках системы корпоративные и индивидуальные рейтинги будут привязаны друг к другу. Например, если компания была наказана за нарушение правил ведения бизнеса, рейтинги ее ключевых сотрудников также пострадают, и наоборот.
Кроме того, рейтинг компании снизится, если она ведет бизнес с партнерами с плохим рейтингом. Это, по сути, исключает компании с низким рейтингом из цепочки поставок. Поскольку технология программы все еще находится в стадии разработки, полное влияние системы на бизнес будет известно только через несколько лет.
На карту поставлены сотни миллиардов долларов, поскольку множество американских корпораций, включая Apple, Boeing, Intel и Ford, зависят от китайского рынка. "Вопрос для компаний заключается в том, какие данные им нужно предоставить. Прямо сейчас они все еще находятся в стадии понимания того, что это может повлечь за собой", - заявил Дэн Айвз, технологический аналитик Wedbush в Нью-Йорке. По его словам, если Пекин будет давить слишком сильно, "это может быть рискованно для Китая, если Apple и другие начнут пытаться переместить свой бизнес в другие страны".
Подробнее: https://www.vestifinance.ru/articles/126517

ж

Оруэлловская антиутопия близко. Китай первым реализует эффективный контроль через соцкредит?

Москва, 12 июля - "Вести.Экономика". 

В конце марта 2019 г. китайская компания CY Credit в партнерстве с Центральным комитетом Коммунистической молодежной лиги и Национальной комиссией по развитию и реформам запустила социальный рейтинг для молодежи.

Отследить свой социальный рейтинг китайцы смогут в мобильном приложении Unictown, которое разработала компания CY Credit по заказу Коммунистического союза молодежи Китая.

Приложение анализирует "цифровой отпечаток" молодых людей в Китае, присваивая каждому пользователю от 350 до 800 баллов. Любой, кто наберет больше 640 очков, попадет в особую группу и получит доступ к привилегиям. Эта инициатива призвана стимулировать социально полезное поведение

Благонадежные пользователи получают преимущества при собеседовании на работу, льготы по дополнительному обучению, а в целом вознаграждение может включать даже аренду квартир, образование за рубежом и даже выгодный брак.

Приложение собирает, сортирует и анализирует огромное количество данных от уровня образования до покупок в онлайн-магазинах. Социальный рейтинг становится основой для вознаграждения аналогично тому, как банк предлагает более высокие кредитные лимиты с более низкими процентными ставками для клиентов с хорошей репутацией. Однако социальный кредит гораздо шире и включает в себя нефинансовые действия, такие как антиобщественное поведение и волонтерство.

К 2020 г. к системе планируют подключить всех жителей в возрасте от 18 до 45 лет, то есть около 460 млн человек. Как сообщает South China Morning Post, обладателей низкого рейтинга наказывать не планируют. Предполагается, что они сами захотят улучшить свои показатели, чтобы открыть доступ к привилегиям.

"В отличие от других программ, наша система поощряет хорошее поведение. Она помогает молодым людям понять, как вести себя, чтобы стать лидерами и ролевыми моделями для представителей своего поколения", — рассказал SCMP президент CY Credit Ши Яньин.

Как объясняют создатели приложения, в основе Unictown лежит концепция пяти постоянств праведного человека, предложенная Конфуцием. К ним относятся доброжелательность, тяга к справедливости, следование обычаям, рассудительность и искренность. "При оценке человека в Китае задают один главный вопрос — на него можно положиться или нет?" — утверждает Ши.

Правительство начало внедрять систему социального рейтинга в 2014 г. Аналитики полагают, что власти надеялись повысить степень доверия в обществе. Западные активисты обвиняют Компартию в слежке за гражданами и вторжении в частную жизнь, однако сами китайцы поддерживают подобные программы.

В 2018 г. немецкие исследователи опросили 2200 граждан Китая, чтобы узнать их отношение к системам социального рейтинга. Оказалось, что 80% китайцев пользуются коммерческими системами скоринга, например Sesame Credit. При этом лишь 7% знают, что правительство имеет доступ к их персональным данным.

Опрос также показал, что 80% респондентов в какой-то степени или полностью поддерживают рейтинги благонадежности. При этом чаще всего за системы социального скоринга высказывались образованные городские жители более старшего возраста с более высоким уровнем достатка. Это необычно, так как представители этой группы в других странах выше других ценят приватность.

В то же время 76% опрошенных признали, что считают взаимное недоверие главной проблемой китайского общества.

В 2016 г., когда Китайское национальное управление по туризму опубликовало в сети список граждан, которым ограничили доступ к перелетам, пользователи отреагировали позитивно. Новостями регулярно делились в соцсетях, а публикациям щедро ставили лайки. Это еще одно доказательство положительного отношения к системам слежки.

Как именно работает система социальных кредитов, точно не знает никто, но известно, что рейтинги рассчитываются исходя из всего массива информации, который государству удается собрать о гражданине. Для некоторых система социальных кредитов сулит большие возможности, для других - наказание. План Коммунистической партии заключается в том, чтобы следить за своими гражданами 24 часа в сутки и 7 лет и оценивать их поведение, полностью функциональной систему планируют сделать к 2020 г.

По данным Австралийской вещательной корпорации (ABC), запущенная пилотная программа уже оценивает миллионы людей по всей стране. В настоящее время более 200 млн камер наблюдения используют программное обеспечение с искусственным интеллектом и системой распознавания лиц, которое добавляет или вычитает очки рейтинга на основе поведения в реальном или цифровом мире.

Данные, собранные из обширной сети камер, смешиваются с информацией, собранной из правительственных отчетов отдельных лиц, медицинских, финансовых документов и даже интернет-страниц. Рейтинги людей могут меняться в реальном времени в зависимости от поведения человека, но другие люди также могут также влиять на оценки. Например, можно потерять баллы из-за общения с "нежелательными" лицами.

Граждан, которые могут похвастаться наибольшим количеством баллов, ждут приятные бонусы, такие как VIP-обслуживание в аэропортах, возможность получить кредит под меньшую процентную ставку, внеконкурсное зачисление в лучшие университеты государства и др. Те, чей рейтинг окажется самым низким, не смогут претендовать на хорошую работу, будут отключены от скоростного интернета, а их дети не смогут посещать престижные школы. На результат влияют банковские задолженности, дорожные штрафы, предосудительное поведение онлайн и курение в общественных местах. Очки можно поднять, став донором крови или приняв участие в благотворительном проекте.

Разработанная китайским ИТ-гигантом Alibaba система оценки давно вышла за рамки традиционного кредитного скоринга. Она анализирует не только кредитную историю, но также уровень образования, историю покупок и даже контакты пользователя. Более того, компания не скрывает, что передает данные о пользователях правительству.

В "черный список" правительства попадают знаменитости и крупные предприниматели — в основном за неуплату налогов. Рейтинг также понижают за критику властей, нарушение ПДД и другие мелкие проступки, которые отслеживают с помощью информаторов и цифровых сервисов. Одновременно с этим учитываются сведения из государственных баз данных, так что ни один аспект жизни не остается незамеченным.

Социальная кредитная система развернута по меньшей мере в дюжине городов Китая. Несколько технологических компаний работают с правительством над созданием обширной инфраструктуры, настройками технологии и завершения алгоритмов, которые определяют рейтинговую оценку. Это самый крупный проект социальной инженерии в современной истории, а также способ, при помощи которого китайская элита будет иметь возможность контролировать более миллиарда человек.
Подробнее: https://www.vestifinance.ru/articles/122036

03:01, 15 июля 2019

Россия поддержала китайский метод «перевоспитания» мусульман

Россия, Белоруссия, Таджикистан и еще 34 страны поддержали в Совете по правам человека ООН политику Китая по «перевоспитанию» в пенитенциарных учреждениях в Синьцзян-Уйгурском автономном районе (СУАР) уйгуров. Об этом сообщает «Коммерсантъ» со ссылкой на источник в российской делегации.

Отмечается, что эти страны поддержали китайское заявление на сессии Совета ООН по правам человека после того, как 22 государства (страны-члены ЕС, Япония, Австралия, Канада, Новая Зеландия) осудили в открытом письме действия Пекина.

Почти 40 делегаций «высоко оценили прогресс, которого Китай достиг в области прав человека в СУАР», заявил представитель Китая Чэнь Сюй. По его словам, верный курс государства доказывает отсутствие в регионе терактов за последние три года.

МАТЕРИАЛЫ ПО ТЕМЕ

00:01 — 7 октября 2018

Будущее рядом

Их сажают в лагеря, разлучают с детьми и убивают. Все ради любви к родине

В июне власти Китая опровергли информацию о пытках заключенных в лагеря уйгуров. Ошибка заключается в том, что «центры образования и профессиональной подготовки» описывают как концентрационные лагеря, пояснил замглавы МИД Чжан Ханьхуэ.  В августе 2018-го Комиссия ООН по правам человека сообщила, что по меньшей мере миллион представителей этнических меньшинств содержится в закрытых лагерях в СУАР, где их якобы перевоспитывают. Людей заставляют петь революционные песни, изучать идеи председателя КНР Си Цзиньпина, говорить на неродном для них китайском языке. Существование лагерей официальный Пекин объясняет профилактикой террористической деятельности в регионе. В то же время те, кто прошел через перевоспитание, говорят, что людей в лагерях подвергают пыткам.

https://lenta.ru/news/2019/07/15/friends_4ever/

Россиянам будут присваивать персональные кредитные рейтинги

Москва, 27 августа - "Вести.Экономика". Банкам с их помощью будет проще решить, давать ли человеку заем. И граждане смогут более реально оценивать свои возможности, понимая, как они выглядят в глазах кредиторов.

В 2019 г. вступят в силу поправки в закон "О кредитных историях". Как сообщил в интервью "Российской газете" исполняющий обязанности гендиректора Объединенного кредитного бюро Николай Мясников, благодаря этому документу у банков появится новый инструмент оценки потенциальных заемщиков.

На основе ряда параметров россиянам будут присваиваться кредитные рейтинги. По словам Николая Мясникова, в зависимости от наличия просрочек, уровня долговой нагрузки, количества запросов на проверку кредитной истории, "возраста" этой истории каждому гражданину будет присваиваться некий балл. Чем он выше, тем ниже соответственно потенциальный риск для кредитных организаций.

"По сути, это то же самое, что скоринг, который активно используют кредиторы при принятии решения о выдаче заемщику кредита", - пояснил Мясников, отметив, что с 2014 г. законодательство позволяет формировать такую историю без согласия гражданина.

Сама кредитная история часто может выглядеть сложной и запутанной, так что сам гражданин не может реально оценить, как же он выглядит в глазах кредитора. Скоринг как некая агрегированная информация позволяет лучше понять это.

"При этом нужно понимать, что даже очень высокий скоринговый балл не является гарантией выдачи кредита. Решение всегда остается за кредитором, который использует не только информацию из бюро, но и собственные системы оценки рисков, включающие дополнительные источники информации", - подчеркнул и. о. гендиректора Объединенного кредитного бюро.

По его словам, новый рейтинг можно будет использовать и в смежных областях, например при оформлении страховки КАСКО. Кроме того, он пригодится микрофинансовым организациям, нотариусам, страховщикам и даже работодателям.
Подробнее: https://www.vestifinance.ru/articles/105936

Россиянам попытаются запретить использовать мессенджеры анонимно

НИКОЛАЙ БЕЛКИН

 Российское правительство разработало правила, которыми предстоит руководствоваться сервисам обмена мгновенными сообщениями (мессенджерам) при идентификации пользователей. Она стала обязательной еще с 1 января 2018-го с вступлением в силу поправок к закону "Об информации", однако из-за отсутствия нужных подзаконных актов до сих пор не работает.

Согласно проекту правил, на который ссылаются "Известия", пользоваться мессенджером сможет только тот человек, на которого оформлен указываемый при регистрации в сервисе обмена сообщениями номер телефона. Удостоверять совпадение личности пользователя предстоит администрации "организатора распространения информации" и оператору мобильной связи.

Для этого сотовым компаниям придется доработать свои клиентские базы данных, добавив туда поля с указанием мессенджеров, которыми пользуется абонент, и уникальный код- идентификатор, присваиваемый пользователю мессенджером. Эту информацию, сказано в документе, будет передавать связистам администрация сервиса мгновенных сообщений.

Глава "Роскомнадзора" Александр Жаров заявил изданию, что "возможность анонимной коммуникации в мессенджерах затрудняет деятельность правоохранительных органов при расследовании преступлений". Правда, он не пояснил, как именно правительство собирается идентифицировать пользователей коммуникационных сервисов, не требующих привязки телефонного номера — например, Skype или Facebook Messenger.

Неясно также, как российские власти смогут заставить иностранные мессенджеры исполнять новые правила или предотвратить использование при регистрации в сервисах мгновенных сообщений SIM-карт зарубежных сотовых операторов. Если не решить эти проблемы, нововведения никак не помогут в борьбе с террористами и другими преступниками. Однако они наверняка облегчат правоохранительным органам и спецслужбам контроль за цифровыми коммуникациями обычных пользователей.

https://hitech.vesti.ru/article/1092043/?utm_source=push&utm_campain=notification

Минкомсвязи предлагает ввести обязательную установку отечественных антивирусов

20.09.2018

Минкомсвязи предлагает ввести через два года обязательную установку отечественных антивирусных программ на все компьютеры в России. Как сообщает "Коммерант", такая инициатива содержится во внесенном в правительство паспорте нацпроекта "Цифровая экономика".

…Соосновательница "Лаборатории Касперского", гендиректор группы компаний InfoWatch Наталья Касперская назвала предустановку российских антивирусов "логичным требованием", поскольку "антивирус может собрать информацию и потом ее где-то проанализировать". "Как это будет выглядеть с точки зрения безопасности страны, если мы везде поставим Symantec (американский производитель антивируса Norton. - Ред.)? Symantec будет видеть у нас все", - сказала она.

…12 октября 2017 года The Wall Street Journal писал, что в "Антивирус Касперского" по указанию российского руководства была встроена функция поиска секретных документов администрации США. 25 октября Касперский признал, что в 2014 году антивирус компании отправлял разработчикам секретные данные с компьютера сотрудника АНБ. Антивирус якобы обнаружил в файлах вредоносный код. Из заголовков файлов стало понятно, что они секретные. Касперский утверждает, что немедленно приказал своим сотрудникам удалить файлы.

Глава Baidu: искусственный интеллект будет гораздо сильнее влиять на общество, чем интернет

Москва, 27 сентября - "Вести.Экономика". Генеральный директор компании Baidu Inc, оператора крупнейшей в Китае поисковой системы, Робин Ли заявил, что искусственный интеллект в предстоящие десятилетия будет оказывать гораздо большее влияние на общество, чем интернет. Об этом сообщает South China Morning Post.

…По словам Ли, в то время как машины заменят людей на многих позициях, искусственный интеллект также приведет к созданию множества новых рабочих мест, например, в таких областях, как маркировка данных.

Возможность сокращения рабочего дня из-за повышения производительности означает, что у людей будет больше времени для потребления контента, который обычно создается людьми и требует творческого подхода. "Компьютеры пока не очень хороши в этом", - отметил Ли.

"У нас есть много возможностей, - сказал он. - Но есть и ограничения, например, как вы защищаете конфиденциальность, как вы гарантируете, что технология не выходит из-под контроля и не наносит вред человечеству. Есть вещи, о которых мы должны беспокоиться, но я вижу больше возможностей, чем угроз".

Китай сделал развитие искусственного интеллекта национальным приоритетом, стремясь стать лидером в этой области к 2030 г.

Как сообщали "Вести.Экономика", в конце января председатель КНР Си Цзиньпин призвал к более глубокой интеграции больших данных и искусственного интеллекта в реальную экономику, чтобы стимулировать долгосрочный рост страны.

Китай должен придавать большее значение развитию науки и технологий и в то же время оптимизировать свои экономические структуры, сказал Си на заседании Политбюро Центрального Комитета Коммунистической партии. Лидер КНР подчеркнул необходимость использования данных для улучшения управления.
Подробнее: https://www.vestifinance.ru/articles/107578

Deepfake

В 2019 г. возрастет количество контента, основанного на deepfake — результате объединения машинного обучения и фальшивых новостей. Созданные при помощи Deepfake видеоролики, на которых, например, известные политики делают какие-то несоответствующие действительности заявления, — это новый инструмент глобальной информационной войны, которая продолжится в 2019 г. При этом выполненные при помощи искусственного интеллекта подделки будет крайне сложно отличить от реальности. Стимулировать данный тип контента будут выборы в Индии и подготовка к избирательному процессу в США. В то же время медиа, интернет-провайдеры, операторы и власти должны искать пути защиты для демократических процессов от такого контента,...: 

Подробнее: https://www.vestifinance.ru/articles/111169 

Топ трендов кибербезопасности 2018 года

Москва, 8 октября - "Вести.Экономика" Кибербезопасность остается животрепещущей темой как для простых пользователей, так и для крупнейших корпораций и компаний. За год сформировался ряд тенденций, играющих определяющую роль в стратегиях защиты от киберугроз. Переход от оборонительной позиции к охоте за киберпреступниками – магистральный тренд рынка информационной безопасности сегодня.

Group-IB, международная компания, специализирующаяся на предотвращении кибератак, в ежегодном отчете «Hi-Tech Crime Trends 2018» проанализировала глобальные тренды развития киберпреступности и представила видение будущих целей проправительственных хакерских групп и финансово-мотивированных хакеров. 

Саботаж и шпионаж – главные цели проправительственых хакеров

Фокус перспективной разработки и инноваций в создании сложных вирусов, а также проведении многоступенчатых целевых атак сместился от финансово-мотивированных киберпреступников к проправительственных хакерам. Их действия направлены на обеспечение долговременного присутствия в сетях объектов критической инфраструктуры с целью саботажа и шпионажа за компаниями энергетического, ядерного, коммерческого, водного, авиационного и других секторов….
Подробнее: https://www.vestifinance.ru/articles/108194

Как специалистам по обработке данных видится будущее после скандала с «Кембридж Аналитика» и Фейсбук

29.03.2018 Керри Флинн (KERRY FLYNN)

Данные — это сила. Доступная в онлайне персональная информация помогла Дональду Трампу стать президентом, а учетные записи в социальных сетях помогают Фейсбук улучшать свои финансовые показатели.

…«Этим должны заняться специалисты по информационным технологиям в целом. Мы создаем средства, которые могут быть использованы во зло или как минимум не во благо. Мало сказать, что мы этого не хотели, — заявил Дэниел Минц (Daniel Mintz), работающий главным специалистом по пропаганде информационных технологий в компании по разработке программного обеспечения «Лукер». — Нам нужна общественная дискуссия об этике информационных технологий и о том, поддержат ее люди или нет»….

Данные равно деньги

Билл Гейтс в своем очерке, опубликованном в 1996 году на сайте «Майкрософт», заявил, что «контент царствует». В самом начале статьи он написал: «Я думаю, что контент в интернете — это та сфера, где будут делать реальные деньги, как это было в свое время в телерадиовещании». Но сейчас 2018 год, и если вы зададите тот же вопрос любой интернет-компании, она скорее всего скажет, что сейчас главное — это данные.

Данные превратились в самостоятельный бизнес. …

Доверие с прозрачностью

Данные помогают рекламщикам (да и всем остальным) лучше понять наш мир, но скандал вокруг Фейсбук и «Кембридж Аналитика» вызван отсутствием прозрачности, когда не до конца ясно, что происходит за кулисами.

Пользователи Фейсбук могли подумать, что они просто проходят личностный тест, данные которого нужны ученым, или играют в интересную игру. Но благодаря таким действиям специалисты по анализу данных (а не только инженеры-программисты из Фейсбук) получили доступ к персональной информации ничего не подозревавших пользователей.

«Я думаю, прозрачность здесь является ключом ко всему.

…Отношения между Фейсбук и партнерами по анализу и обработке данных претерпевают изменений. Но наряду с этим специалисты из сферы информационных технологий в предстоящие годы должны наладить диалог с законодателями, экспертами по этике и другими заинтересованными сторонами, заявляет Минц из компании «Лукер».

«Мы как общество пока еще не поняли, как сделать так, чтобы общественный договор не отставал от стремительных изменений в технологиях и обществе. Но я думаю, что нам придется в этом разобраться, — сказал Минц. — Технологические перемены не будут замедляться, но беспредела в этой сфере быть не должно».

https://inosmi.ru/social/20180329/241851827.html

Безработные и несвободные: кого погубят новые технологии

Чем обернется технологический прогресс для человечества

Дмитрий Бевза 06.01.2019, 13:05

О новых технологиях и месте среди них человека снимают кинофильмы, пишут статьи и спорят обыватели. Изобретения бесцеремонно меняют жизнь и при этом часто ограничивают свободу, рушат этические нормы и лишают работы. Чего ждать дальше? «Газета.Ru» опросила IT-экспертов и выяснила, какие риски несут людям новые технологические решения и чего нам бояться, а на что не стоит обращать внимание.

Что-то пошло не так

До недавнего времени технический прогресс человечества прочно ассоциировался с социальным. Новые изобретения и новые технологии шли нога в ногу с ростом благосостояния, сокращением разрыва между богатыми и бедными, подъемом среднего класса, всеобщим средним и бесплатным высшим образованием, созданием пенсионных систем и прочими социальными благами. В конце XX века сомнения в том, что интернет, мобильная связь, робототехника, растущие вычислительные мощности могут завести человечество куда-то «не туда», были уделом маргиналом и конспирологов. Сейчас ситуация выглядит уже не столь однозначной.

Информационные технологии принесли новые коллизии практически во все сферы человеческой жизни.

Дискуссии о применении патентного и авторского права в интернете, споры о частности или общественности пространства социальных сетей не затихают до сих пор, а использование искусственного интеллекта, компьютерного зрения и комплексов городского видеонаблюдения (CCTV) вообще стерло границы частной жизни.

То, как влияют информационные технологии на жизнь общества, нашло отражение даже в массовой культуре. Сериал «Черное зеркало», описывающий эти проблемы, стал настоящим хитом британского телеканала Channel 4.

Во всем важен контроль

Специалисты, опрошенные «Газетой.Ru», выделили несколько аспектов, касающихся влияния информационных технологий на общество. Как ни парадоксально, но почти все эксперты сошлись во мнении, что главную опасность для человечества представляют не новые технологии, а сами люди.

IT-эксперт Александр Баулин считает, что сами по себе новые изобретения и научные открытия не могут принести вред, но люди должны более ясно представлять себе результат их применения.

«Если не думать о проблемах, то в свое время лошадиным навозом можно было бы завалить весь Лондон или вырубить все деревья в Англии. Нам кажется, это преувеличением, но на Кипре так и произошло: остров жил выплавкой меди, однако вырубка всех деревьев нарушила экологию острова. Нужно просто не забывать, что все технологии имеют побочные эффекты и, используя их, важно продумывать последствия», — считает Баулин.

В том, что главную угрозу людям несут вовсе не технологии, соглашается и ведущий аналитик Mobile Research Group Эльдар Муртазин.

«Если посмотреть на то, какие решения иногда принимают многие мировые политические лидеры и главы огромных компаний, возникает большой соблазн заменить этих людей искусственным интеллектом», — заявил Муртазин, выразивший уверенность, что со временем ИИ будет допущен не только к экспертной оценке ситуаций, но и к принятию решений.

«Тут, конечно, есть некоторая опасность. В том, как работают машинные алгоритмы, разбираются единицы, а для остальных это «черный ящик».

Если доверить искусственному интеллекту автоматизировать процесс принятия важных решений, то существует риск того, что эти решения окажутся совершенно чужды человеческой логике, нашим понятиям о морали и этике», — считает аналитик.

«Опасность исходит не от технологий как таковых, а от людей, которые ими распоряжаются», — говорит телеком-эксперт и аналитик MForum Analitics Алексей Бойко. По его словам, если общество научится контролировать спецслужбы, армию, политиков, крупный бизнес, то этого должно хватить для того, чтобы превентивно защититься от опасных последствий появления новых технологий.

По мнению Бойко, дихотомия «добро/зло» в отношении технологий и научно-технического прогресса некорректна: «Это деление мне представляется надуманным. Микроскопом можно убить человека, а уж насколько опасным может быть «мирный атом», мы знаем не понаслышке. Хорошо обученная система компьютерного зрения может выявлять рак на томограммах на месяцы ранее, чем это делает высококвалифицированный врач с десятком лет стажа, а аналогичная по сути система может вести охоту за людьми с автономного ударного беспилотника».

Прогресс не остановить

Все опрошенные эксперты уверены, что позитивные изменения, приносимые научно-техническим прогрессом, значительно превосходят неизбежный «сопутствующий ущерб». Однако человек воспринимает все улучшения как естественный ход событий, а нежелательные последствия, к которым люди не успевают адаптироваться, становятся чем-то экстраординарным и, соответственно, привлекают больше внимания.

По мнению исполнительного директора НКО «Общество защиты интернета» Михаила Климарева, технологии развивались, развиваются и продолжат развиваться в ближайшее столетие. Эксперт отметил несколько направлений, от которых он ожидает прорыва в ближайшие годы — это интернет вещей, сети пятого поколения, большие данные и искусственный интеллект.

«Я думаю, что ИИ не будет «разумом, который все контролирует и самостоятельно принимает решения». До создания подобного предстоит решить много инженерных проблем — это дело десятилетий. Но вот решение задачи по оптимизации автомобильного движения или общение с ИИ на естественном языке уже на подходе», — считает Климарев.

Эльдар Муртазин также обратил внимание на то, какой прогресс произошел в области взаимодействия человека и ИИ. По его мнению, переход на естественные языки взорвет рынок голосовых помощников.

«Критикуя интернет, социальные сети и «тупые» голосовые помощники, многие не обращают внимание, на то, как эти технологии уже улучшили жизнь тех же маломобильных и слабовидящих людей. Если раньше они были отрезаны от мира, то сейчас эти технологии помогают им интегрироваться в социум», — отметил эксперт.

Киборги идут

Одной из главных техноугроз XXI века многие эксперты и социологи считают роботизацию экономики. Рассуждения и подсчеты о том, какого количества рабочих мест лишатся люди с появлением полностью автоматизированных фабрик и беспилотных автомобилей, ведутся буквально каждый день.

Глава GSMA Матс Гранрид согласился с тем, что эта проблема существует: «Что касается водителей, то да, она очевидна. Например, в Манхэттене сейчас работает почти 14 тыс. такси. В случае замены их умными беспилотными автомобилями, подключенными через сети 5G к искусственному интеллекту, будет достаточно всего 2 тыс. машин, а время их ожидания сократится до двух минут. Проблема потери рабочих мест касается не только водителей, но и ритейла. Уже сейчас все большее и большее количество людей делают покупки онлайн».

Возможно не самой важной, но уж точно самой болезненной темой, связанной с влиянием на нашу жизнь информационных технологий, стала так называемая прозрачность, то есть стремительно сужающееся поле частной жизни.

Жизнь современного человека онлайн и офлайн, его покупки, транзакции, интернет-запросы, его местопребывание и перемещения, даже то, что он говорит вблизи смартфона, становится предметом маркетингового анализа или интереса спецслужб или злоумышленников.

«Да, это явление имеет место быть. Становится все труднее скрывать, «что вы делали прошлым летом», — считает Климарев, -— При этом такая прозрачность имеет не только отрицательную коннотацию. Она также означает более высокий уровень безопасности — личной, информационной, финансовой. Совершать противоправные действия становится все более опасным и сложным занятием».

С другой стороны, по мнению эксперта, все это накладывает ответственность и на самих людей и формирует особое отношение к действиям разных интернет-сервисов.

«Я думаю, что в наступившем году (как, впрочем, и в последующем) особое внимание общественности будет привлекать такое достаточно новое явление, как «цифровые права», что повлечет появление новой профессии, которое условно назовем «цифровой юрист», — уверен Климарев.

Алексей Бойко в «новой прозрачности» видит не столько этическую проблему, сколько новый социальный вызов.

«В ближайшие десятилетия мы можем столкнуться с новым, невиданным уровнем прозрачности общества, когда технологии позволят в любой момент отслеживать местоположение на планете любого человека, знать о нем больше, чем знают его близкие, и даже «читать его мысли», в той или иной степени приближения к этой идее. Это создает соблазн создания полицейских государств с еще невиданным уровнем контроля малой группы населения за остальным населением, с навязыванием меньшинством большинству своей воли, с сужением поля «свободы воли». Человечество должно будет перерасти эти соблазны — или же оно превратится в структуру наподобие роя, где отдельные составляющие живут и действуют не столько в своих интересах, сколько в интересах роя, а роли составляющих рой организмов предопределены», — предостерегает эксперт.

https://www.gazeta.ru/tech/2019/01/06/12118177/progress_neostanovim.shtml

«Крестный отец ИИ» Джеффри Хинтон уволился из Google, раскритиковал компанию за неэтичность — и теперь предупреждает мир об опасности искусственного интеллекта 

 

 7 мая 2023, Mark Blinch

 

Хинтон ушел из Google и выступил против чат-ботов, потому что из-за них обычные люди «больше не будут знать, где правда»

В 2012 году профессор Университета Торонто Джеффри Хинтон и двое его студентов разработали систему, которая могла анализировать тысячи снимков и обучать саму себя распознавать в реальности похожие объекты — например, цветы, животных или автомобили — с беспрецедентной точностью. После выдающегося достижения Хинтон и его ученики Илья Суцкевер и Алекс Крижевский продолжили исследования — а компанию, в которой они трудились над нейросетями, приобрела Google. Именно разработки британского профессора и двух студентов ускорили внедрение ИИ — и привели к появлению ChatGPT, Google Bard и других чат-ботов.

В 2018-м Хинтон получил премию имени Алана Тьюринга с формулировкой «за концептуальные и инженерные прорывы, сделавшие глубинные нейросети краеугольным компонентом в вычислительной технике». Пять лет спустя ученый резко изменил взгляды на ИИ, покинул Google — и 1 мая дал интервью The New York Times (NYT), в котором высказался об опасностях в этой сфере. Главная угроза чат-ботов и других подобных технологий, по мнению Хинтона, заключается в том, что интернет так сильно наполнится фейковым контентом — сгенерированными фотографиями, видео и текстами, — что обычные люди «больше не будут знать, где правда». 

Ученый также выразил опасения, что ИИ-технологии со временем превратятся из помощников людей в их замену и оставят представителей многих профессий без работы. «Некоторые люди верили, что технологии могут стать умнее, чем мы, но большинство считало это преувеличением, — сказал Хинтон в интервью NYT. — Я тоже думал, что до этого еще далеко. Я думал, что нам остается до этого от 30 до 50 лет или даже больше. Очевидно, я больше так не считаю».

Хинтон развивал идеи Тьюринга и мечтал создать искусственную систему, которая обучалась бы, как человеческий мозг 

…методы, в создании которых Хинтон принял активное участие, назвали глубоким обучением. Они позволяли ИИ не только выполнять конкретные действия в рамках одного алгоритма, но и расширять свои возможности с помощью внешних данных. 

«Идея состояла в том, чтобы получить устройство, которое обучалось бы так же, как обучается мозг, — рассказывал Хинтон. — Это была не моя идея, о том же думал Алан Тьюринг. Он считал, что мозг представляет собой неорганизованную машину, которая использует обучение с подкреплением (способ машинного обучения, когда система обучается, взаимодействуя со средой, — прим. „Медузы“), чтобы менять связи внутри себя, и которая способна обучиться чему угодно. Он считал, что это лучший подход к изучению интеллекта». 

Стремление разработать систему, которая могла бы обучаться так же, как человеческий мозг, определило всю карьеру Хинтона. В конце 1970-х и в 1980-х он активно пытался создать алгоритмы, способные распознавать звуки и изображения. Ключевую роль в проектах ученых того времени играли внутренние представления, то есть информационные структуры, которые воспринимающая система создает и сохраняет как комбинации качеств, присущих внешним объектам. 

«Вопрос о том, как создавать внутренние представления, считался святым Граалем исследований ИИ», — объяснил Хинтон. Однако компьютеры полвека назад не обладали достаточной скоростью, чтобы генерировать внутренние представления так же быстро, как человеческий мозг. …

Головоломка с обучаемостью искусственных систем решилась с появлением более быстрых и мощных компьютеров уже в XXI веке. Хинтону и его коллегам удалось внедрить в искусственные системы алгоритмы, которые позволяли тем формировать внутренние представления. Еще ИИ снабжали паттернами речи, которые позволяли воспринимать и интерпретировать устную речь и письменные тексты. Заложенные в системах Хинтона детекторы признаков обрабатывали фрагменты информации и находили связи между ними, благодаря чему процесс обучения заметно ускорился.

«Похожие идеи были и у других ученых, но он всегда оказывался в центре событий, — объяснил вклад Хинтона в исследования ИИ журналист NYT и писатель Кэйд Мец. — Он активно участвовал в создании систем, которые научились распознавать сначала речь, а затем изображение. Эти два момента стали ключевыми для технологического прогресса и для того, как ИИ применяется в наше время». 

Еще два года назад Хинтон разрабатывал новую систему, но изменил мнение об ИИ из-за технологической гонки Google и Microsoft 

После разработки нейронной сети с уникальными возможностями к глубинному обучению в 2012-м Хинтон основал компанию DNNresearch и нанял студентов Илью Суцкевера и Алекса Крижевского, которые вместе с ним занимались исследованиями ИИ. Несмотря на скромный статус компании всего с тремя официальными сотрудниками, между крупными корпорациями разразилась борьба за возможность поглотить DNNresearch. На сотрудничество с Хинтоном претендовали китайский технологический гигант Baidu, Google, Microsoft и британский стартап DeepMind британского нейробиолога Демиса Хассабиса, запущенный всего двумя годами ранее.

По итогам аукциона DNNresearch перешла под контроль Google за 44 миллиона долларов. Несмотря на готовность Baidu предложить более крупную сумму, Хинтон сам решил остановить торги, поскольку не захотел, чтобы научное сотрудничество превращалось в фарс. С тех пор и до мая текущего года «крестный отец ИИ» продолжал разработку более совершенных нейронных сетей именно в Google. 

В 2021 году Хинтон сосредоточился на создании системы GLOM. По задумке Хинтона, новая разработка должна была решить одну из основных проблем, связанных с ИИ, поскольку обладала бы способностью распознавать одни и те же объекты с разных ракурсов. До этого, несмотря на стремительное развитие нейронных систем и связанных с ними технологий, алгоритм мог, к примеру, не распознать одну и ту же чашку, если она изображалась сначала сбоку, а затем сверху. Подобные задачи продолжали мотивировать и вдохновлять Хинтона, несмотря на статус и положение, которого он добился за почти полувековую карьеру. 

Еще одна идея Хинтона заключалась в том, чтобы снабдить нейронные системы «векторами согласия» — алгоритмами, которые анализировали бы информацию схожим образом, но дополняли друг друга и помогали составить более полную картину. Ученый сравнивал подобный подход с группой людей, занятых мозговым штурмом: все они могут соглашаться между собой, однако в ходе дискуссии у них с высокой долей вероятности получится совершенствовать индивидуальные внутренние представления. 

«Джефф очень необычный мыслитель в том плане, что он способен совмещать сложные математические концепты с биологическими факторами и на основе этой связи формулировать теории, — отмечает нейроученая и бывшая студентка Хинтона Сью Беккер. — Исследователи более узкого профиля концентрируются либо на математической теории, либо на нейробиологии. У них намного меньше шансов найти ответ на вопрос, как могут учиться и думать люди и машины». 

Когда Google, OpenAI и другие технологические компании, занятые исследованиями ИИ, начали разрабатывать нейронные сети, которые обучались на основе обширных фрагментов цифрового текста, Хинтон предположил, что теперь у машин появится больше шансов распознавать и генерировать языки. Однако этот способ обучения, по его мнению, все равно уступал тому, как распознают текст и речь люди. 

Позиция Хинтона изменилась в 2022 году, когда Google и OpenAI разработали системы с намного более крупными, чем раньше, базами данных. До этого ученый гордился тем, что Google действует осторожно и не допускает попадания на рынок технологий, теоретически способных принести вред человечеству. Но в последний год конкуренция между Microsoft и Google подтолкнула обе компании к выпуску чат-ботов, возможности которых, по мнению Хинтона, еще не до конца осознают даже сами разработчики. По словам ученого, в некоторых аспектах нейронные сети стали совершеннее, чем человеческий мозг.

«Есть вероятность, что происходящее в этих системах намного превосходит по сложности процессы в человеческом мозге, — отметил ученый. — Посмотрите на то, что происходило [в сфере исследований ИИ] пять лет назад, и на то, что происходит сейчас. Представьте, с какой скоростью изменения будут происходить в будущем. Это пугает». Большинство коллег Хинтона пока считают угрозу гипотетической, но он сам уверен, что во избежание катастрофы нужно взять под строгий контроль Google, Microsoft и других технологических гигантов.

Хинтон опасается, что технологии в конце концов сотрут для большинства людей границу между вымыслом и реальностью, а также кардинальным образом изменят ситуацию на рынке труда. Еще один повод для опасений ученого состоит в том, что искусственные системы могут обучаться непредсказуемому поведению, когда анализируют обширные массивы данных. Это значит, что людям будет все сложнее прогнозировать механизмы функционирования ИИ. 

В интервью NYT после ухода из Google указано, что Хинтон жалеет о работе всей своей жизни, но утешает себя оправданием: «Если бы я этого не сделал, это сделал бы кто-то другой». В более позднем разговоре с изданием MIT Technology Review ученый уточнил:

[Журналист NYT] пытался заставить меня сказать, что я сожалею. В конце концов я сказал, что, возможно, небольшие сожаления у меня есть. [Но] я не думаю, что принимал какие-либо неправильные решения во время исследований [по созданию нейросетей]. На самом деле [в 1970-е и 80-е годы] нельзя было предвидеть [текущий этап развития ИИ]. До самого последнего момента я думал, что экзистенциальный кризис [из-за угроз ИИ] еще очень далек [от нас]. В общем, никаких сожалений по поводу того, что я сделал, у меня нет.

https://meduza.io/feature/2023/05/07/krestnyy-otets-ii-dzheffri-hinton-uvolilsya-iz-google  

 Люди побоку: мировой бизнес делает ставку на роботов и ИИ

НИКОЛАЙ БЕЛКИН 27.01.2019 

…Бизнесмены уже во всю включились в гонку за автоматизацией, чтобы оставить позади конкурентов, и о судьбе работников беспокоятся мало.

…Про прогнозу инвестбанка UBS, оборот мировой индустрии искусственного интеллекта к будущему году достигнет 180 млрд долларов.

Как прогнозирует Кай-Фу Ли, автор книги "Сверхспособности ИИ" и ветеран многих технологических компаний, в течение 15 лет искусственный интеллект ликвидирует 40% рабочих мест в мире.

…Другие эксперты, напротив, предсказывают, что ИИ создаст больше новых рабочих мест, чем уничтожит, и что сокращения, вероятно, не будут катастрофическими. Они указывают, что автоматизация помогает работникам, повышая производительность труда и, высвобождая их от рутинных задач, дает возможность сконцентрироваться на задачах более творческих.

…Выбор, который сделают представители элиты в Давосе — и давление, которое оказывают на них в интересах защиты работников — определят, станет ли искусственный интеллект инструментом повышения производительности или инструментом причинения страданий.

"Выбор идет не между автоматизацией или отказом от нее, — говорить Эрик Бринйолфсон, директор "Инициативы за цифровую экономику" в Массачусетском технологическом институте. — А между тем, использовать ли технологии ради всеобщего блага, или ради дальнейшего сосредоточения богатства".

https://hitech.vesti.ru/article/1154369/

Глубокое изучение, глубокое понимание, глубокий искусственный интеллект — список можно продолжать и продолжать. Но вместе с беспрецедентными обещаниями надвигается беспрецедентная опасность. Так оценивает обозреватель «Нью-Йорк таймс» перспективы прогресса в развитии цифровых технологий, систем связи, обработки больших объемов данных и искусственного интеллекта.

The New York Times (США): внимание! В эпоху «надзорного капитализма» все идет вглубь

04.02.2019 Томас Фридман (Thomas L. Friedman

…Некоторые из этих технологий олицетворяют беспрецедентные обещания, а некоторые — беспрецедентные опасности, но все они сейчас являются частью нашей жизни. Все глубоко развивается.

…Как пишет «Таймс», DeepMind «демонстрирует еще один способ, которым компьютеры могут быть развиты настолько, чтобы вести себя лучше людей при выполнении задач высокой сложности» и «имитировать способ функционирования мозга». Следующий прорыв DeepMind, а именно AlphaZero, даже не имеет потребности учиться у людей. Программа учится даже быстрее, повторно играя против самой себя.

…20 января «Лондон обзервер» прокомментировал новую книгу профессора Гарвардской бизнес-школы, Шошани Зубофф (Shoshana Zuboff), название которой идеально описывает те глубокие темные воды, в которые мы заходим в «Эре наблюдательного капитала».

….Регуляторные механизмы часто отстают от новых технологий, и когда они движутся так быстро и поражают так глубоко, этот отрыв может быть по-настоящему опасным.

…глубокие изменения приближаются. Это вызывает тревогу, и да — назад уже не поплыть. Мы действительно сегодня далеки от мели.

https://inosmi.ru/social/20190204/244510293.html

ИИ, пишущий фейковые новости, решили не выпускать на свободу

ОЛЕГ ИЛЮХИН 15.02.2019 

Некоммерческая организация OpenAI, финансируемая главой Tesla и SpaceX Илоном Маском, разработала генератор фейковых текстов, но воздержалась от публикации полных результатов исследования, побоявшись злоупотреблений и неправомерного использования технологии. Команда ученых сочла, что новая ИИ-модель GPT2 может причинить вред, поскольку выдаваемые ею лживые новости кажутся слишком убедительными.GPT2 — компьютерный алгоритм, которому может быть "скормлен" текст любого размера: от пары слов до миллионов статей. Опираясь на вводные данные, система пытается предположить, как дальше могут развиваться события. При этом созданная в OpenAI ИИ-модель не просто выдумывает текст, а выдерживает стилистику оригинала и не выходит за рамки заданной темы. Кроме того, в отличие от более простых текстовых генераторов, алгоритмы не "забывают", о чем шла речь в предшествующих параграфах, и не допускают ошибок в длинных предложениях.

Основу базы знаний GPT2 составил контент социального новостного сайта Reddit. Обучался ИИ на массиве текстов объемом свыше 40 гигабайт (примерно 35 тысяч копий "Моби Дика")….:

 https://hitech.vesti.ru/article/1170083/

Миллиард согласных

Как мощнейшая интернет-цензурасоздала тайную армию и отучила китайцев критиковать власть

КОПЕЕЧНАЯ СВОБОДА

«Золотой щит» — лишь часть системы тотального контроля за населением. Еще один важный фактор, который помог правительству окончательно внушить гражданам мысль о том, что интернет — не место для выражения собственного мнения, — знаменитая «50-центовая армия». Это огромные сообщества проправительственных блогеров, которые следят за настроениями на форумах и в соцсетях и обо всем докладывают наверх.

Термин «50-центовая армия» родился из легенды о том, что за каждый позитивный пост сетевым активистам якобы платят пол-юаня. Эти данные множество раз опровергали, в том числе и китайские высокопоставленные чиновники, но название прижилось, хотя в китайском интернете оно до сих пор считается оскорблением.

Когда именно появилось движение проправительственных блогеров, точно неизвестно. Первые следы его существования были обнаружены в 2004 году: тогда руководство городского округа Чанша в провинции Хунань создало специальный сайт для отбора людей, готовых публиковать провластные посты и массово жаловаться на сомнительные с точки зрения идеологии материалы и комментарии.

В 2005 году подобную схему «облагораживания» настроений использовали в Нанкинском университете для присмотра за крупнейшим в стране студенческим форумом Little Lily. В обязанности покупных пользователей входила модерация негативных постов и «установление активной и здоровой веб-среды университета». Зарплату высчитывали по количеству оставленных позитивных комментариев.

Вскоре этот механизм начали перенимать многочисленные китайские форумы и соцсети. «50-центовая армия» быстро разрасталась и получала зарплату не от государства, а от компаний и общественных организаций. В 2015 году среди провластных сетевых активистов работали миллионы студентов, и это была лишь часть могущественной армии комментаторов.

Власти только в 2007 году открыто признали, что им нужны миллионы лояльных комментаторов. Тогда председатель КНР Ху Цзиньтао на заседании политбюро потребовал «помощи идеологически верного мнения общества для создания позитивного образа страны в публичном поле». Вскоре после этого ЦК КПК и Госсовет потребовали, чтобы все крупные онлайн-ресурсы и порталы сформировали команды интернет-комментаторов из числа «политически благонадежных товарищей».

Изначально в команды входило 10–30 человек, но в июне 2009 года руководство партии в срочном порядке потребовало усилить контроль за онлайн-активностью граждан, и в некоторых регионах начали спешно нанимать тысячи сотрудников. Многих официально трудоустраивали в государственные ведомства и платили им фиксированную зарплату.

ВЛАСТИ ТОЛЬКО В 2007 ГОДУ ОТКРЫТО ПРИЗНАЛИ, ЧТО ИМ НУЖНЫ МИЛЛИОНЫ ЛОЯЛЬНЫХ КОММЕНТАТОРОВ

ИНСТРУКЦИЯ ДЛЯ ПАТРИОТА

Для «50-центовой армии» власти издали целые инструкции, проводили тренинги и экзамены. Каждый активист должен был скрывать свою настоящую личность, тщательно притворяться рядовым пользователем сети и принимать активное участие в многочисленных дискуссиях. Особенно поощрялось взаимодействие с авторитетными блогерами.

В задачи наемников входило «насаждать враждебность и страх по отношению к демократическим режимам», «сравнивать диссидентов с предателями Родины», «разжигать массовые онлайн-споры для отвлечения внимания от политических проблем» и «продвигать националистические идеи». В результате в беседах демократия неизменно становилась «оружием Запада для завоевания Китая» и «источником неразберихи и хаоса». Другие страны с демократическим режимом, по инструкции, увязали в коррупции и преступности.

КАЖДЫЙ АКТИВИСТ ДОЛЖЕН БЫЛ СКРЫВАТЬ СВОЮ НАСТОЯЩУЮ ЛИЧНОСТЬ, ТЩАТЕЛЬНО ПРИТВОРЯТЬСЯ РЯДОВЫМ ПОЛЬЗОВАТЕЛЕМ СЕТИ И ПРИНИМАТЬ АКТИВНОЕ УЧАСТИЕ В МНОГОЧИСЛЕННЫХ ДИСКУССИЯХ.

В 2011 году в сеть попала часть инструкций для членов «50-центовой армии». Из них западные издания узнали, что чаще всего от проплаченных блогеров требовали критиковать США и всячески отрицать существование государства Тайвань. Демократию же решено «улучшить»: ее наилучшим вариантом нужно было представлять государственное устройство Китая.

Специалисты считают, что все инструкции разрабатываются в Министерстве культуры КНР. Там же, судя по всему, проводятся тренинги и принимаются экзамены. Это подтверждается и в интервью одного из членов «50-центовойармии» известному оппозиционному писателю, художнику и блогеру Ай Вэйвэю.

МИЛЛИОНЫ ПОКОРНЫХ БЛОГЕРОВ

Активист утверждает, что прежде чем стать частью «50-центовой армии», он и его соратники действительно проходили полноценный экзамен. После этого принятые блогеры заводили множество аккаунтов на всевозможных сайтах, где провоцировали дискуссии и отслеживать негативные комментарии. По оценкам блогера, от 10 до 15 процентов всех комментариев в китайском интернете написаны его соратниками по «50-центовой армии».

Позже исследователи проанализировали утекший в сеть почтовый архив одного из китайских ведомств и пришли к выводу, что численность «50-центовой армии» приближается к двум миллионам человек, а ее члены ежегодно генерируют не менее 480 миллионов комментариев.

ОТ 10 ДО 15 ПРОЦЕНТОВ ВСЕХ КОММЕНТАРИЕВ В КИТАЙСКОМ ИНТЕРНЕТЕ НАПИСАНЫ АКТИВИСТАМИ «50-ЦЕНТОВОЙ АРМИИ»

Анализ проплаченных публикаций показал, что анонимы размывают любые политические дискуссии положительной повесткой. Так, 51 процент был посвящен описанию позитивных изменений в стране, а 22 процента — фактам об экономическом и политическом развитии Китая. Споров и критики оказалось чуть меньше одного процента.

Блогеры на зарплате, по сути, оказались глазами и ушами правительства. Они не пытаются атаковать оппозиционеров и не изобличают их. Государство придумало нечто получше — с помощью «50-центовой армии» власти просто вычисляют всех инакомыслящих и призывают их к ответу в рамках закона. Только законы в Китае весьма суровые.

ЧИСЛЕННОСТЬ «50-ЦЕНТОВОЙ АРМИИ» ПРИБЛИЖАЕТСЯ К ДВУМ МИЛЛИОНАМ ЧЕЛОВЕК

В СЕТЬ ПО ПАСПОРТУ

«Золотой щит» и армия проправительственных блогеров наложили неизгладимый отпечаток на повседневное поведение китайцев. Не менее значимым инструментом контроля за интернетом стала обязательная регистрация в соцсетях и на сайтах под реальными именами.

С начала 2000-х Министерство общественной безопасности призывало пользователей крупных ресурсов и блог-платформ указывать при регистрации реальные данные, а с 2009 года обязательная регистрация по именам была введена во всех сервисах двух крупнейших интернет-компаний Китая — Alibaba и Tencent. Одновременно те же правила начали действовать и в отношении интернет-кафеи компьютерных клубов по всей стране.

Финальный законопроект об обязательной регистрации под реальными именами на всех ресурсах для всех жителей Китая, над которым несколько лет трудились Министерство общественной безопасности, Министерство науки и технологий, а также Главное государственное управление радиовещания, кинематографии и телевидения, был принят в 2013 году. Первыми подопытными стали жители Пекина и еще нескольких провинциальных городов.

Сначала закон обязывал указывать реальные данные при подключении интернета и покупке сим-карт, но годом позже его действие распространилось на мобильные приложения и загрузку роликов на видеохостинги.

В 2015 ГОДУ ВЛАСТИ ОКОНЧАТЕЛЬНО УТВЕРДИЛИ ЛЮБОЙ ВХОД В ИНТЕРНЕТ «ПО ПАСПОРТУ»

В 2015 году власти окончательно утвердили любой вход в интернет «по паспорту». Оправданием послужила борьба с «распространением слухов и вредоносной информации». За нарушение грозили штрафы и тюремное заключение.

Тем удивительнее, что пользователи соцсетей восприняли закон абсолютно нейтрально. Мало кто опасался, что он не позволит открыто рассуждать о политике — в первую очередь потому, что о ней в китайском интернете просто не говорят.

В том же Weibo закон встретили чуть ли не с радостью: мол, блогеры наконец-то будут отвечать за свои слова, слухи и фейковые новости исчезнут, а правда восторжествует. Неизвестно, были ли эти посты написаны реальными людьми или все той же «50-центовойармией», но выражать личное мнение явно никто не жаждал.

ДЕЛАЙ ТО, ЧТО МОЖНО

Такие настроения легко объяснимы: китайские пользователи сети давно научились существовать в жестких рамках и просто делают то, что можно. Во всяком случае, так считают специалисты.

В какой-то момент запреты формально стали не нужны — китайцы разучились говорить на остросоциальные темы. Если в США 43 процента записей посвящены обсуждению различных новостей и мнений из мира политики, то в Китае эта цифра составляет менее одного процента. При этом 70 процентов китайских блогеров моложе 30 лет и имеют высшее образование, а это та прослойка населения, которая в тех же Штатах и в Европе активнее всего интересуется политикой и экономикой.

Популярные блог-платформы в китайском интернете похожи на мечту основателя Facebook и непримиримого борца с токсичностью Марка Цукерберга, где многомиллионная аудитория развлекают сама себя позитивной повесткой. 84 процента блогов представляют собой персональные дневники и истории о повседневной жизни; 23 процента рассуждают о литературе и искусстве; 9 процентов публикуют забавные истории, мемы и смешные картинки; 6 процентов — новости технологий и спорта.

КИТАЙСКИЕ ПОЛЬЗОВАТЕЛИ СЕТИ ДАВНО НАУЧИЛИСЬ СУЩЕСТВОВАТЬ В ЖЕСТКИХ РАМКАХ И ПРОСТО ДЕЛАЮТ ТО, ЧТО МОЖНО

Когда ты популярен в Китае, говорить о политике не столько опасно, сколько невыгодно: блоги о жизни, красоте или книгах приносят куда больше рекламных доходов.

Из-за отсутствия какой-либо политической активности в интернете единственными источниками информации выступают государственные ведомства. Они ведут официальные аккаунты в соцсетях и открыто транслируют порой достаточно радикальную провластную позицию, хотя и не особенно популярны у интернет-аудитории.

Многочисленные исследования подтверждают: китайские миллениалы прекрасно знают о существовании цензуры и считают ее обыденным явлением. Более того, они вполне осознанно не проявляют интереса к оппозиционным взглядам на происходящее в стране.

Именно поэтому специалисты говорят о трех уровнях цензуры в китайском интернете. Первый — администрация онлайн-сервисов, которая с помощью собственноручно разработанных алгоритмов отслеживает негативные посты и комментарии, поскольку по закону несет ответственность за все публикации.

КИТАЙСКИЕ МИЛЛЕНИАЛЫ ПРЕКРАСНО ЗНАЮТ О СУЩЕСТВОВАНИИ ЦЕНЗУРЫ И СЧИТАЮТ ЕЕ ОБЫДЕННЫМ ЯВЛЕНИЕМ

Второй уровень — владельцы популярных аккаунтов с большим количеством подписчиков в QQ и WeChat. Они могут придать своим профилям статус публичных, но перед этим в обязательном порядке подписывают дополнительное соглашение, в котором обязуются не публиковать критических материалов в отношении государства и общества.

На третьем уровне располагаются обыкновенные пользователи сети, которые имеют представление о том, что может вызвать недовольство надзорных органов и администрации сервисов, а потому предпочитают не публиковать провокационные или осуждающие посты о политике Китая и инициативах партийного руководства.

Чтобы закрепить такую модель поведения, власти нередко устраивают над авторами оппозиционных записей показательные судебные процессы и заставляют их публично извиняться за распространение недостоверной информации. Так, к примеру, произошло с известным венчурным капиталистом Чарльзом Сюэ, который регулярно критиковал социальную политику властей в Weibo-аккаунтес 12 миллионами подписчиков. В 2014 году его арестовали якобы за связь с проституткой, но отпустили только после того, как он извинился за содержание своих постов в эфире канала CCTV 1.

Цензура в Китае постоянно совершенствуется, а списки запрещенных к обсуждению тем и стоп-слова непрерывно расширяются. Самым ярким примером стал запрет на изображение Винни Пуха из диснеевского мультфильма. На одном из снимков с тогдашним президентом США Бараком Обамой председатель КНР Си Цзиньпин напомнил пользователям мультяшного медведя, и сравнение товарища Си с вымышленным персонажем тут же оказалось под запретом.

В СТРАНЕ ОФИЦИАЛЬНО ЗАПРЕТИЛИ К ПРОКАТУ ФИЛЬМ «КРИСТОФЕР РОБИН», ВЕДЬ ОН МОГ ПОДТОЛКНУТЬ КИТАЙЦЕВ К НАСМЕШКАМ НАД ЛИДЕРОМ

По той же причине в стране официально запретили к прокату фильм «Кристофер Робин», ведь он мог подтолкнуть китайцев к насмешкам над лидером.

Эта история получила необычное продолжение. В феврале китайская компания Tencent инвестировала 150 миллионов долларов в популярный на Западе форум Reddit. Китайский гигант, который владеет в том числе одним из крупнейших в мире мессенджеров WeChat и, по сути, собственноручно занимается цензурой на площадке, пришелся не по вкусу пользователям. В качестве акции протеста треды наводнили изображения Винни-Пуха. При этом Reddit, как и многие другие западные соцсети и мессенджеры, в Китае не работает, так как признан «вульгарным». Хотя это никак не мешает компаниям из Поднебесной зарабатывать на инвестициях во внешний мир.

https://chinanet.lenta.ru/chaptertwo

Тень позора (2)

Жизнь каждого китайца привяжут к рейтингу. Они рады и готовы травить неугодных властям

ОЦЕНКА ЗА ПОВЕДЕНИЕ

Финальный шаг к тотальному контролю за населением Китай сделал в 2014 году: каждому жителю Поднебесной решили присвоить социальный рейтинг.

По замыслу правительства, рейтинг гражданина должен зависеть от каждого его действия: под пристальным наблюдением окажутся не только банковские счета и посты в сети, но и поведение в общественных местах, отношения с соседями, коллегами и посторонними людьми.

«Поддерживать доверие — хорошо, подрывать доверие — позорно», — говорилось в государственном документе.

Особенное внимание уделят людям определенных профессий: учителям, бухгалтерам, журналистам, врачам, ветеринарам и гидам, работающим с туристами. Каждому гражданину присвоят идентификационный код, который можно будет использовать для проверки своего статуса.

Как и в случае с кредитной историей, рейтинг гражданина может падать или расти. Сейчас рейтинговые системы запущены в тестовом режиме в некоторых префектурах. Как именно формируется конечная «оценка», власти не раскрывают, зато активно рассказывают о способах наказания за всевозможные проступки.

«ПОДДЕРЖИВАТЬ ДОВЕРИЕ — ХОРОШО, ПОДРЫВАТЬ ДОВЕРИЕ — ПОЗОРНО»

К примеру, на рейтинге негативно сказываются нарушения правил дорожного движения, курение в неположенном месте, чрезмерное увлечение компьютерными играми или публикация фейковых новостей в интернете. В последнем случае фейком, вероятно, считается все, что неугодно властям.

Для слежки за гражданами будут использованы многочисленные камеры наблюдения. Все они подключены к системе распознавания лиц, функционирующей на основе технологии искусственного интеллекта. Мелкие правонарушения фиксируются автоматически, а нарушителей система узнает даже в том случае, если не видно лица, — например, по походке.

Люди, живущие за пределами Китая, узнали о существовании такой системы благодаря короткому видеоролику, демонстрирующему принцип ее работы. На видео алгоритм быстро распознает каждого китайца в толпе, и над человеком тут же высвечиваются его данные: возраст, пол и другая личная информация. Распознавание происходит в реальном времени, и укрыться от него практически невозможно.

Еще одно проявление системы, дошедшее до западного мира, — снимок типичной девушки-полицейского в Китае, вооруженной очками с технологией распознавания лиц. Пока страж правопорядка смотрит на гражданина, перед его глазами автоматически всплывает информация о том, насколько благонадежен объект наблюдения.

НАКАЗАНИЕ БЕЗ ПРЕСТУПЛЕНИЯ

Первым реальным наказанием за низкий рейтинг стала система запретов на путешествия: недостаточно законопослушных граждан лишали права летать на самолетах и ездить в комфортабельных поездах. Только за 2018 год 23 миллионам человек запретили покупать билеты на самолеты или поезда.

Опасность потерять несколько строчек в рейтинге есть даже у тех, кто захочет «слоняться без дела» у выходов на посадку.

Некоторые специалисты утверждают, что в качестве карательных мер власти намерены замедлять скорость интернета. Это, вероятно, коснется тех, кто просиживает часы за компьютерными играми, грешит импульсивными онлайн-покупками и пишет фейковые новости. Это же наказание может ждать тех, кто имеет долги по кредитам.

Еще одно наказание, которое уже практикуется в обществе, — лишение возможности учиться и работать.

ПЕРВЫМ РЕАЛЬНЫМ НАКАЗАНИЕМ ЗА НИЗКИЙ РЕЙТИНГ СТАЛА СИСТЕМА ЗАПРЕТОВ НА ПУТЕШЕСТВИЯ

В марте 2018 года 17 китайцев отказались проходить военную службу. Это решение сильно ударило по их рейтингу и повлекло суровое наказание: им в течение двух лет запрещено поступать в университет, аттестаты об их среднем образовании аннулированы, поэтому им придется вернуться в школу на доучивание. Впоследствии у некоторых из них не получалось даже забронировать отель для отдыха, поскольку это тоже оказалось прерогативой «добропорядочных» китайцев.

Еще один китайский абитуриент лишился возможности поступить в университет только потому, что «социальная оценка» его отца оказалась слишком низкой.

Такие же санкции ждут тех, кто надеется получить высокооплачиваемую работу: обладателей низкого социального рейтинга не возьмут ни в крупные кредитные организации, ни в компании с государственным участием.

АБИТУРИЕНТ ЛИШИЛСЯ ВОЗМОЖНОСТИ ПОСТУПИТЬ В УНИВЕРСИТЕТ ТОЛЬКО ПОТОМУ, ЧТО «СОЦИАЛЬНАЯ ОЦЕНКА» ЕГО ОТЦА ОКАЗАЛАСЬ СЛИШКОМ НИЗКОЙ

Лю Ху — один из немногих журналистов, пытающихся говорить о цензуре и коррупции в стране. Из-за своих материалов он был арестован и оштрафован, а позднее обнаружил себя в черном списке «неблагочестивых» граждан. Ему внезапно оказались недоступны кредиты, покупка билетов на самолет, путешествие на поезде по нескольким направлениям и приобретение недвижимости.

Никто его об этом не уведомил, и исправить это, похоже, невозможно. По словам специалистов, журналист может обратиться в суд и заплатить назначенные ему штрафы, но гарантии того, что его вернут в общество «благочестивых» граждан, нет.

Рассказывая о последствиях низкого социального рейтинга, государство всячески порицает нарушителей, особо подчеркивая их безнравственность. Ведь не подчиняться требованиям правящей партии, по мнению китайских властей, сродни аморальному поступку. Таких граждан клеймят в обществе, подчеркивают их нечестивость и в прямом смысле выносят на доски позора, электронные версии которых существуют во многих провинциях.

Пока разные рейтинговые системы строятся с учетом различных факторов. В провинциях, где проект запущен в пилотном режиме, большее внимание уделяется моральной стороне: рейтинг может быть понижен как за административные нарушения, так и за плохое поведение в общественном месте.

В городе Жунчэн провинции Шаньдун на старте каждому жителю дали по 1000 очков. За неподобающее поведение из этой тысячи вычитают штрафы, а за положительное — начисляют. В качестве позитивного поведения власти, к примеру, учитывают пожертвования на благотворительность.

В ходе теста пилотной версии рейтинга в Жунчэне обнажилась неочевидная проблема — любители петиций. В Китае практика обращения в вышестоящие органы с просьбой повлиять на региональные власти в форме петиций широко распространена и крайне не нравится тем, кто становится субъектом жалоб. Особо активных петиционеров было решено штрафовать на 50 баллов за каждую попытку донести их проблему до Пекина.

Головной болью для Жунчэна тут же стал петиционер по фамилии Гао: он направил более тысячи обращений с требованием помочь его матери в споре с клиникой, который длится более 20 лет. Его очки упали до минимума уже через три недели — 95 петиций стоили ему 950 баллов рейтинга.

Крупные компании большее внимание уделяют финансовой стороне, анализируя траты, долги, частоту и вид приобретаемых товаров. На основе этих и других данных гражданин, по сути, получает расширенную версию кредитной истории.

Пока единой базы данных не существует: сбором и тестированием наказаний провинции и компании занимаются самостоятельно. Их наработки правительство планирует применить для создания общенациональной системы.

ХОРОШИЙ КИТАЕЦ — БОГАТЫЙ КИТАЕЦ

Крупнейшая торговая площадка Китая Alibaba, число пользователей которой давно перевалило за полмиллиарда, выделила для проведения эксперимента собственный сервис Sesame Credit. Как и в случае с государственными рейтингами, компания не разглашает алгоритм формирования своего рейтинга, ссылаясь на его сложность, зато всячески поощряет желание пользователей рассказывать о нем абсолютно всем, включая незнакомцев.

К примеру, для этих целей функция добавления статуса финансового рейтинга была введена в сервисе знакомств Baihe. Пользователи с высокими оценками высвечиваются в поиске выше, мотивируя других выплачивать кредиты вовремя, держать свою кредитную историю в порядке и не злоупотреблять покупкой бесполезных вещей.

ПОЛЬЗОВАТЕЛЕЙ ВСЯЧЕСКИ ПООЩРЯЮТ РАССКАЗЫВАТЬ О СВОЁМ БОГАТСТВЕ АБСОЛЮТНО ВСЕМ, ДАЖЕ НЕЗНАКОМЦАМ

«Тот, кто играет в видеоигры по 10 часов в день, будет считаться праздным человеком, тогда как покупатель подгузников, вероятно, является родителем и ответственности у такого человека больше», — рассказывал еще в 2015 году технический директор Sesame Credit.

Для того чтобы рейтинг всегда сопровождал гражданина, финансовый актив создал специальное приложение. Многие китайцы уверяют, что это упростило их жизнь: теперь хвастаться высокими оценками гораздо проще.

Своей историей успеха в 2015 году поделилась жительница Пекина. Она смогла забронировать отель без внесения предоплаты только благодаря высокому социальному рейтингу и, судя по всему, очень этим гордится.

Sesame Credit уверяет, что использование их системы — дело абсолютно добровольное, но избежать этого практически невозможно: онлайн-покупки и интернет-платежи давно стали неотъемлемой частью жизни китайцев.

«ТОТ, КТО ИГРАЕТ В ВИДЕОИГРЫ ПО 10 ЧАСОВ В ДЕНЬ, БУДЕТ СЧИТАТЬСЯ ПРАЗДНЫМ ЧЕЛОВЕКОМ, ТОГДА КАК ПОКУПАТЕЛЬ ПОДГУЗНИКОВ, ВЕРОЯТНО, ЯВЛЯЕТСЯ РОДИТЕЛЕМ И ОТВЕТСТВЕННОСТИ У ТАКОГО ЧЕЛОВЕКА БОЛЬШЕ»

Как и в любой системе контроля за гражданами, власти особенное внимание уделяют желающим донести о проступке ближнего, оправдывая это «укреплением доверия между гражданами».

Поиск незаконного контента и последующие доносы поощряются финансово: в конце 2018 года такие «премии» увеличили вдвое — до 600 тысяч юаней (около 86 тысяч долларов, или 5,7 миллиона рублей). Жаловаться можно на порно, разглашение государственной тайны или неуважение к партии. Годом ранее социальная сеть Weibo давала за 200 доносов по 200 юаней, а самым активным — iPhone и iPad.

ВЛАСТИ ОСОБЕННОЕ ВНИМАНИЕ УДЕЛЯЮТ ЖЕЛАЮЩИМ ДОНЕСТИ О ПРОСТУПКЕ БЛИЖНЕГО, ОПРАВДЫВАЯ ЭТО «УКРЕПЛЕНИЕМ ДОВЕРИЯ МЕЖДУ ГРАЖДАНАМИ»

СОЦИАЛЬНАЯ СЕТЬ WEIBO ДАВАЛА ЗА 200 ДОНОСОВ ПО 200 ЮАНЕЙ, А САМЫМ АКТИВНЫМ — IPHONE И IPAD

Особенного внимания властей заслужили блогеры женского пола: они, по мнению правительства, способны одним своим видом производить порно-контент. В феврале этого года женщинам-стримерам запретили появляться в прямом эфире в нижнем белье, сексуальной униформе, одежде телесных цветов и обтягивающих тело костюмах. Несколькими годами ранее под запрет попало поедание бананов на камеру: таким образом власти пытались пресечь «неуместный и эротичный» контент.

Создание рейтинговой системы с недавних пор публично поддерживают популярные блогеры. К примеру, Вэнь Цюань, специализирующийся на рассказах о технике и финансах, утверждает, что кредитный и, как следствие, социальный рейтинг, упростит жизнь обычных граждан: «Без такой системы мошенник, совершивший преступление в одном месте, сможет сделать то же самое уже в другом городе. Но кредитная система ставит все прошлые деяния на учет. Она поможет построить общество, которое будет лучше и справедливей».

ПОД ЗАПРЕТ ПОПАЛО ПОЕДАНИЕ БАНАНОВ НА КАМЕРУ: ТАКИМ ОБРАЗОМ ВЛАСТИ ПЫТАЛИСЬ ПРЕСЕЧЬ «НЕУМЕСТНЫЙ И ЭРОТИЧНЫЙ» КОНТЕНТ

Последнее нововведение окончательно укрепило систему как пример идеальной доски общенационального позора: должников порицают не только кредитные организации и власти, но и окружающие люди. Сервис под названием «Карта злостных неплательщиков» запустили в провинции Хэбей и уже планируют внедрить по всей стране. На карте, которую можно открыть через WeChat, в радиусе 500 метров отображаются граждане, чья кредитная история оставляет желать лучшего. «Чтобы разоблачить уклоняющихся от выплат должников, способных погасить свои долги», — гласит описание сервиса.

В РАДИУСЕ 500 МЕТРОВ ОТОБРАЖАЮТСЯ ГРАЖДАНЕ, ЧЬЯ КРЕДИТНАЯ ИСТОРИЯ ОСТАВЛЯЕТ ЖЕЛАТЬ ЛУЧШЕГО

Специалисты расходятся во мнениях по поводу того, зачем Китаю столь масштабная система контроля. Одни считают, что власти хотят включить сельские районы, коих в стране множество, в участие в кредитной системе. Другие уверены, что правящая партия всего лишь ищет новые способы укрепить свою власть на десятки, если не сотни лет.

Полноценная общенациональная система социального рейтинга, которая учтет каждого из более миллиарда китайцев, должна заработать уже в 2020 году.

https://chinanet.lenta.ru/chapterthree

Китай вводит систему распознавания лиц для доступа в интернет

Москва, 9 октября - "Вести.Экономика". Китайское правительство продолжает свои оруэлловские практики: теперь для доступа в интернет, который и так сильно контролируется властями, граждане Поднебесной должны будут использовать технологию распознавания лиц.
В Китае к интернету будут допущены лишь граждане, прошедшие тест на распознавание лиц. Сейчас перед посещением сети пользователю необходимо предъявить удостоверение личности, которое легко подделать или им может воспользоваться совершенно другой человек. Новая технология позволит установить, что документ показывает именно его владелец.
Новая инициатива вступает в силу с 1 декабря. Новый закон, который был распространен среди всех китайских операторов связи 27 сентября, включает три требования.
Во-первых, все операторы связи должны использовать систему распознавания лиц для проверки того, является ли гражданин, подавший заявление на подключение к интернету, фактическим владельцем удостоверения личности. В то же время операторы должны проверить подлинность удостоверения личности.
Во-вторых, все операторы связи должны обновить условия предоставления услуг и уведомить всех своих клиентов о том, что до конца ноября 2019 г. им не разрешается передавать или перепродавать свою SIM-карту другому лицу.
В-третьих, операторы связи должны помочь своим клиентам проверить, есть ли номера сотовых или стационарных телефонов, которые не принадлежат им, но зарегистрированы под их именами. Для неопознанных номеров операторы связи должны немедленно провести расследование и закрыть линии связи.

…В 2018 г. немецкие исследователи опросили 2200 граждан Китая, чтобы узнать их отношение к системам социального рейтинга. Оказалось, что 80% китайцев пользуются коммерческими системами скоринга, например Sesame Credit. При этом лишь 7% знают, что правительство имеет доступ к их персональным данным.
Опрос также показал, что 80% респондентов в какой-то степени или полностью поддерживают рейтинги благонадежности. При этом чаще всего за системы социального скоринга высказывались образованные городские жители более старшего возраста с более высоким уровнем достатка. Это необычно, так как представители этой группы в других странах выше других ценят приватность.
В то же время 76% опрошенных признали, что считают взаимное недоверие главной проблемой китайского общества…:

Подробнее: https://www.vestifinance.ru/articles/126334

Распространение китайских технологий наблюдения вызывает опасения по поводу влияния Пекина

Москва, 9 октября - "Вести.Экономика". Стремление Китая экспортировать свои технологии видеонаблюдения, в том числе в либеральные демократии, вызывает обеспокоенность из-за риска передачи данных обратно в Пекин, сообщает CNBC со ссылкой на экспертов.

Китайские технологические компании, в частности Huawei, Hikvision, Dahua и ZTE, поставляют технологии наблюдения с использованием искусственного интеллекта в 63 страны, показал сентябрьский доклад "Фонда Карнеги за международный мир".

…"Я думаю, что худший результат может быть в том, что правительства примут эти технологии и добавят этот арсенал к существующим [инструментам] для контроля над людьми", - сказала Ван CNBC.
Подробнее: https://www.vestifinance.ru/articles/126303

Российские спецслужбы получат доступ к подключённой к интернету бытовой технике

Правительство обяжет поставщиков бытовой техники с подключением к интернету предоставлять доступ к хранящимся в устройствах данных спецслужбам. Такое положение содержится в концепции развития в России интернета вещей, одобрить которую планирует министерство цифрового развития страны, пишет газета "Коммерсантъ".

Проект обязывает участников рынка подключать умные устройства к системе мониторинга данных для силовых структур СОРМ, чтобы правоохранительные органы имели доступ к информации с платформ. Кроме того, власти предлагают создать закрытую сеть умных устройств, работающих на российском рынке. Каждое устройство и точки доступа к нему должны будут идентифицироваться государством, использование техники без идентификаторов должно быть ограничено.

·         Умные устройства считаются одной из важнейших точек роста в IT-технологиях, по данным компании Gartner в 2019 году к сети будут подключены 14.2 миллиарда умных устройств, а в 2025 — уже 25 миллиардов.

·         Российский рынок интернета вещей (IoT) будет расти в среднем на 7-8 процентов в год, а совокупный объем может превысить 80 миллиардов рублей к 2020 году, цитирует исследование Schneider Electric агентство "Прайм".

https://www.svoboda.org/a/29844967.html

Программист нашел в открытом доступе номера телефонов, адреса и географические координаты сотен россиян. Вероятно, их опубликовало оборудование СОРМ

12:56, 27 августа 2019

25 августа российский программист Леонид Евдокимов выступил на IT-конференции Chaos Constructions в Санкт-Петербурге. Доклад под названием «Проруха на СОРМ», который программист также опубликовал на своем сайте, был посвящен появлению в открытом доступе персональных данных российских интернет-пользователей.

В открытом доступе оказались почтовые адреса, телефоны, логины и географические координаты россиян…

Евдокимов обнаружил доказательства того, что личные данные публиковало оборудование для государственной слежки за интернет-трафиком…

Были опубликованы даже данные жителей закрытого города Саров…:

https://meduza.io/feature/2019/08/27/programmist-nashel-v-otkrytom-dostupe-nomera-telefonov-adresa-i-geograficheskie-koordinaty-soten-rossiyan-veroyatno-ih-opublikovalo-oborudovanie-sorm?utm_source=website&utm_medium=push&utm_campaign=browser_news

"Лаборатория Касперского" обнаружила черный рынок цифровых личностей

Москва, 9 апреля - "Вести.Экономика" Они включают в себя более 100 параметров, включая платежные реквизиты пользователей. 

Специалисты Kaspersky Lab обнаружили теневой рынок цифровых данных пользователей. По словам старшего антивирусного эксперта компании Сергея Ложкина, так называемые “цифровые личности” включают в себя более 100 параметров (цифровых следов), оставляемых пользователями при проведении электронных платежей. Это и информация об экране, и о цифровой системе, и о часовом поясе. Кроме того - аутентификационные данные в платежных системах.

В цифровую личность также входят данные, собираемые на основе расширенной аналитики. В их числе - файлы cookie и информация о цифровых привычках пользователя.

По словам Ложкина, с помощью таких данных злоумышленники могут легко обмануть средства для борьбы с онлайн-мошенничеством. Имеющаяся информация позволит им без взлома проникать в аккаунты реальных пользователей и проводить транзакции, не вызывающие подозрений у кредитных организаций.

Как рассказал Сергей Ложкин, в феврале эксперты компании обнаружили подпольный магазин под названием Genesis, который торгует цифровыми личностями. За них просят от $5 до $200. В основном злоумышленники торгуют данными жителей США, Канады и Западной Европы.

Кроме того, специалисты обнаружили браузер Tenebris со встроенным генератором цифрового следа. Он позволяет воспроизводить сетевую активность пользователя в браузере и на прокси-сервере, а потом, используя украденные логин и пароль, входить в аккаунт и проводить онлайн-операции от лица взломанного пользователя.

"Мы видим, что случаев мошенничества с чужими платежными картами становится все больше. Финансовые организации активно инвестируют в средства для борьбы с ними, но определить, что цифровой профиль был украден и использовался злоумышленниками, весьма непросто. Чтобы остановить распространение этой угрозы, нужно ликвидировать подобные черные рынки. Вот почему мы призываем правоохранительные органы по всему миру обратить особенное внимание на эту проблему и присоединиться к борьбе с ней", — отметил Ложкин.

Бороться с финансовым мошенничеством по словам экспертов "Лаборатории Касперского", можно с помощью многофакторной аутентификации на каждом этапе подтверждения личности, а также дополнительных инструментов подтверждения личности: в том числе, проверки биометрии.
Подробнее: https://www.vestifinance.ru/articles/117566

Le Monde (Франция): надзор — высшая стадия капитализма?

16.06.2019 Фредерик Жуаньо (Frédéric Joignot)

Ее зовут Шошана Зубофф (Shoshana Zuboff “The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power”). …

«Шедевр хоррора»

Само название представляет целую концепцию: на протяжении последних 20 лет меняющийся капитализм, который ведут за собой интернет-гиганты («Гугл», «Эппл», «Фейсбук», «Амазон» и «Майкрософт»), «без нашего согласия» вмешивается в наши общественные отношения и влезает в наши дома, «от умной бутылки водки до ректального термометра», — отмечает Шошана Зубофф.

Он сфотографировал и закартографировал улицы наших городов, отснял наши лица и выражения, отследил наши связи, записал наши желания и чувства. Он установил всеобщий надзор за нашим поведением с опорой на искусственный интеллект. Затем он продал эти «большие данные» предприятиям и политическим движениям. Специализирующийся на расследованиях американских журнал «Интерсепт» назвал книгу «шедевром хоррора».

…«В эпоху умных машин» стала классикой анализа рынка труда в век информатики: книга Шошаны Зубофф подчеркивает одновременно ее освободительные перспективы и риск тотального контроля.

…«Амазон» и «Майкрософт», которая в 2016 году выкупила сеть «Линкдин» с ее 400 миллионами пользователей, тоже перешли на эти методы. Сформировался «надзорный капитализм».

Одна из центральных концепций в работе — это понятие «поведенческого избытка»: интернет-гиганты, операторы мобильной связи и занимающиеся интернетом вещей компании не ограничиваются сбором данных об использовании услуг, а встраивают в страницы и аппаратуру невидимые шпионские инструменты. Кроме того, они выявляют с помощью алгоритмов наши самые тайные привычки. Они распознают наш голос и лицо, расшифровывают наши эмоции, чтобы уловить «весь человеческий опыт как бесплатное сырье».

Вся эта масса поведенческих данных с большой выгодой продается как «продукт прогнозирования». «Вы — не продукт, а брошенная туша слона, которого выследили браконьеры», — говорит Шошана Зубофф.

«Фаустовский договор»

Такая логика слежки ведет к инструментализации, то есть k способности моделировать поведение для получения «рентабельных результатов» и даже «автоматизации» поведения.

…По ее мнению, переход от огромных возможностей сети и новых технологий к надзорному капитализму не был неизбежным. «Этот капитализм идет против изначальной цифровой мечты. Он упраздняет нравственное наполнение, которым сеть обладает сама по себе, уничтожает то, что подключение к сети является прообщественным шагом и естественным образом способствует демократизации знания».

«Продиктованный рынком переворот»

Она критикует «продиктованный рынком переворот, который был скрыт за технологическим троянским конем, аннексировал человеческий опыт и шпионил за ним, а также породил невиданную ранее асимметрию знаний, препятствующую нормальным механизмам защиты демократии»….:

https://inosmi.ru/social/20190616/245278083.html

Нихон кэйдзай (Япония): переутомление мозга, вызываемое смартфонами. Следует обратить внимание, если становишься забывчивым

07.03.2020

Кадзуко Тамура (Kazuko Tamura)

Врезультате чрезмерного использования смартфонов и компьютеров растет число людей с переутомленным мозгом. Как следствие, могут возникнуть состояния, близкие к маразму и депрессии. Важно знать об этих рисках, а также о том, как правильно пользоваться цифровыми гаджетами. 

«В последние десять лет мы стали чаще ставить диагноз „забывчивость" людям в возрасте от 30 до 60 лет», — говорит директор клиники памяти «Окумура» нейрохирург Аюми Окумура (Ayumi Okumura), к которому пациенты съезжаются со всей страны. 

Люди стали чаще пользоваться компьютерами и смартфонами. Из-за многообразия информации, которая поступает в виде текстов, фотографий и видео, мозг переутомляется. Предполагается, что одна из главных причин такой забывчивости заключается в мозговом изнурении. 

Наш мозг «вводит» информацию при помощи пяти чувств: зрение, слух, обоняние, вкус и осязание. В месте под названием лобная доля информация сортируется и упорядочивается. Затем она «выводится» в виде слов и действий. 

«Когда количество вводимой информации увеличивается, мозг не справляется с обработкой и превращается в свалку», — отмечает Окумура. Непрерывный ввод информации вызывает переутомление мозга. 

По словам профессора Университета Васэда Ёсикуни Эдагава (Yoshikuni Edagawa), специалиста по нейробиологии, префронтальная кора в лобной доле, которая упорядочивает информацию, отвечает за мышление, принятие решений, контроль памяти и эмоций. Из-за переутомления мозга снижается функция префронтальной коры, что приводит к увеличению числа простых ошибок, плохой обучаемости, разочарованию и гневу, а также отсутствию мотивации и интереса. Это похоже на раннюю деменцию и депрессивные симптомы.

Внимание следует обратить людям, которые используют персональный компьютер для работы, выполняя одновременно несколько задач, делают работу по дому, а в перерывах смотрят при помощи смартфона социальные сети или играют в игры.

Помимо текста, смартфоны также передают цвет и мерцание, возникающие в результате отображения фотографий и видео. Это накладывает дополнительную нагрузку на усталый мозг. В частности, использование смартфонов во время просмотра телевизора создает чрезмерную нагрузку на мозг, отмечает Окумура. Если вы постоянно используете свой телефон даже в редкие свободные минуты, если у вас есть различные признаки того, что работа и ведение домашнего хозяйства пошли не так, и вы стали более забывчивыми, ваш мозг может быть перегружен.

Чтобы улучшить и предотвратить переутомление мозга, важно создать состояние, при котором обработка информации в лобной доле будет выполняться плавно. Ключ — цикл под названием «сеть пассивного режима работы головного мозга» (Default mode network (DMN)).

DMN активно работает, когда вы не занимаетесь сознательной деятельностью, такой как мышление. По словам Эдагава, это проявляется, когда вы спите или витаете в облаках. В этот момент DMN приводит в порядок информацию и память. Мозг проходит «техобслуживание», когда работает DMN.

Если вы работаете за компьютером и постоянно пользуетесь смартфоном в повседневной жизни, DMN теряет возможность функционировать. Смартфоны удобны, но разумно использовать их лишь ограниченное время, поставив определенные цели. «Полезно увеличить время без смартфона: не брать его в ванную, туалет и спальню, не использовать во время еды и разговоров», — советует Эдагава. 

«Если вы выполняете простые задачи, такие как мытье посуды или протирание пыли, или занимаетесь такими монотонными ритмическими упражнениями, как игра в гольф или прогулка, вы естественным образом впадаете в состояние прострации», — вторит ему Окумура. В дополнение к хорошему ночному сну также полезен 15-минутный сон во время обеденных перерывов. Если дневной сон невозможен, DMN также эффективен, если вы сядите на стул, закроете глаза, поправите осанку и сосредоточитесь на дыхании в течение пяти минут (Эдагава).

«Попробуйте начать с того, чтобы записать, когда, зачем и как часто вы используете свой смартфон, и пересмотрите ситуации, в которых вам действительно необходимо им пользоваться», — рекомендует Окумура.

https://inosmi.ru/social/20200307/246985794.html

An Action Plan to increase the safety and security of advanced AI

In October 2022, a month before ChatGPT was released, the U.S. State Department commissioned an assessment of proliferation and security risk from weaponized and misaligned AI.
In February 2024, Gladstone completed that assessment. It includes an analysis of catastrophic AI risks, and a first-of-its-kind, government-wide Action Plan for what we can do about them.

https://www.gladstone.ai/action-plan#action-plan-overvie

 ЕС отрегулировал искусственный интеллект

https://www.vedomosti.ru/technology/news/2024/03/13/1025124-evroparlament-odobril-pervii-zakon-ob-iskusstvennom-intellekte

https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law

Мартин Буркхардт

 «Краткая история цифровизации»

Все только и говорят, что о «цифровизации».

Пару лет назад еще можно было говорить о том, что цифровизация подарила миру параллельную реальность, Second Life. Теперь стало ясно, что каждый из нас так или иначе в Сети, здесь и сейчас. Это наша жизнь...:

https://www.litres.ru/martin-burkhardt/kratkaya-istoriya-cifrovizacii/chitat-onlayn/