piektdiena, 2025. gada 12. decembris

При каких обстоятельствах искусственный интеллект превращается из друга во врага?!

 


При каких обстоятельствах искусственный интеллект превращается из друга во врага?!

Это зависит от действий  властвующих политиков и их сторонников в противостояние с оппозицией

Глобальный опыт цифровизации показывает, что многие страны пытаются использовать результаты научных достижений и прогресса в сфере информационных технологий для всестороннего сбора и накопления личных данных. С одной целью — обеспечить эффективный контроль над своими гражданами.

В этом отношении особенно уязвимы жители тех стран, где власть находится в руках авторитарных режимов, где политики у власти не стесняются организовывать тотальный контроль над частной жизнью граждан и их деятельностью. Те, кто находятся у власти, регулируют и наказывают любые действия, не соответствующие мировоззренческим установкам представителей правящего режима. Они хлестко ограничивают мнения, инициативы и творческие выражения, противоречащие их эгоистичным мотивам и убеждениям.

Для обеспечения такого рода контроля государственные институты заинтересованы в сборе, накоплении и обработке как можно большего и разнообразного объема информации о гражданах в интересах власти.

В авторитарных странах правящая элита пытается органично соединить различные ИТ-инновации в единую цифровую платформу, тем самым добиваясь тотального контроля над частной жизнью граждан страны. Это предоставляет практически неограниченные возможности для организации и настройки частной жизни в соответствии с представлениями властей о повиновении, правильном поведении, общественном порядке, законности и так далее.

Чтобы предотвратить реализацию дегуманизирующего сценария государственной цифровизации, необходимо прийти к выводу -  основанному на историческом опыте, - что нет смысла излишне тревожиться по поводу достижений науки и техники. Их не следует отрицать, поскольку сопротивление им безнадежно. Но необходимо мобилизовать силу воли, подавить укоренившуюся беспомощность, преодолеть безразличие, порожденное ограниченным кругозором, и активно участвовать во всем происходящем. Только участвуя, публично контролируя и управляя процессами цифровизации в стране, можно направить их на улучшение демократии: гуманизировать и формировать их в соответствии с потребностями общества и общими интересами граждан!

С учётом этого можно предсказать возможные направления эволюции искусственного интеллекта.

Первый и наиболее опасный сценарий, когда в автократическом, тоталитарном государстве политические лидеры — диктаторы, используя все имеющиеся в их распоряжении рычаги власти, жестко контролируют и направляют развитие искусственного интеллекта в выгодное для себя русло. Принудительным и материальным образом стимулируют создание и использование инструментов искусственного интеллекта в интересах сохранения своей власти:

▼ для самовозвеличивания, всестороннего мониторинга жизни жителей страны и целенаправленного управления их поведением;

▼ для цензуры и модификации всех информационных потоков, доступных населению;

▼ для насильственного навязывания населению своей страны персонализированной шкалы ценностей, репрессивно подавляя каждого непокорного, резко ограничивая и криминализируя деятельность оппозиции и диссидентов.

В таких условиях IT-компании, разрабатывающие ИИ и приближающиеся к уровню общего искусственного интеллекта (AGI — Artificial General Intelligence), подвергаются давлению со стороны властных структур. Это происходит с использованием различных инструментов, имеющихся в распоряжении государственной власти – начиная с преференций и правовых ограничений, ценовой и налоговой политики и заканчивая национализацией компаний и полным подчинением их деятельности реализации интересов власти. Фактически, в жизнь воплощается модернизированное оруэлловское видение, подобное тому, что сейчас происходит в Северной Корее.

Второе и наиболее вероятное предсказуемое направление развития искусственного интеллекта в демократических странах в нынешней ситуации — это попытки доминирующих IT-компаний дискриминировать конкурентов как внутри страны, так и на международном уровне. Цель — ограничить их способность успешно конкурировать на существующем рынке, в том числе путем поглощения и включения их в свою корпорацию.

В результате возникает и укрепляется олигополия, когда вход конкурентов на существующий IT-рынок становится очень сложным. Фактически, рынок монополизируется. Доминирующие компании начинают диктовать себе выгодные коммерческие условия и получают возможность определять стратегию и цели развития искусственного интеллекта. До тех пор, пока государственные структуры не начнут более строго регулировать, контролировать и ограничивать свободу действий IT-компаний.

Часто это происходит в интересах существующих политических сил, которые не всегда совпадают с желаниями потребителей и пользователей услуг ИИ. Или противоречат требованиям критериев общественного блага, даже вступая в конфликт с универсальными человеческими ценностями.

Создание безопасного, надежного, эмпатичного искусственного сверхинтеллекта — важнейшая социально-технологическая проблема нашего времени, при решении которой необходимо обеспечить, чтобы человек находился и оставался в центре цифровой трансформации.

Соблюдение этого обязательного требования может быть обеспечено посредством следования по третьему, наиболее оптимальному и безопасному пути гармоничного развития ИИ, основанному на мобилизации коллективного интеллекта человечества для:

▼ построения  в сотрудничестве с искусственным интеллектом демократического будущего  в пользу всего человечества;

▼  обеспечения наилучшего учета интересов людей в глобальном масштабе;

▼ предотвращения использования технологий ИИ в качестве оружия в руках диктаторов с целью порабощения людей, подавления их свободы выражения мнений, унижения человеческого достоинства

и превращения их в беспомощных, неполноценных личностей;

▼чтобы инновационный искусственный сверхинтеллект ASI  (Artificial Superintelligence) стал благодетелем человечества, а не источником бедствия;

▼ ради помощи людям найти достойное место в мире и отыскать смысл жизни;

▼ чтобы содействовать предотвращению до сих пор широко применяемой     автократами & диктаторами практики популизма и демагогии c использованием самопровозглашенных «национальных» интересов, традиционных ценностей, а также понятия государственного суверенитета как орудие манипуляции чувствами и умами граждан страны, чтобы       любой ценой сохранить свою власть;

Для достижения этой цели прежде всего необходимо организовать и создать наднациональные структуры, которые интегрируют, объединяют, целенаправленно координируют и контролируют усилия ИТ-компаний в области AGI. Если на начальном этапе они могли быть регионального масштаба, то в ближайшем будущем должны стать глобальными (например, под эгидой ООН).

Это обеспечило бы взаимовыгодное, плодотворное межгосударственное сотрудничество, значительно снизило бы определяющую роль политических & коммерческих критериев в процессе создания AGI. Это также позволило разработать рациональные правовые нормы, определяющие цели и устанавливающие стимулы для их достижения, а также  необходимые ограничения. Чтобы инновации в области технологий ИИ  больше расширяли способности человека и действительно приносили           обществу разнообразную пользу, способствовали расцвету цивили-зации.

В результате было бы достигнуто, что требование обеспечения использования AGI и, в долгосрочной перспективе, сверхспособностей ASI на благо всех стало бы общеприоритетным. Это также предотвратило бы концентрацию власти в руках нечестных политиков, создало бы условия для исчезновения резкого социального неравенства.

 Вместе с тем будут созданы необходимые предпосылки для того, чтобы рационально мыслящие политические лидеры стран, принимающих идею гуманизма, могли обосновывать свои действия и активность осознанно с пониманием следующих условий:

▼ что потенциал мощи каждой нации полностью раскрывается только в сотрудничестве, солидарности,  доверии;

▼ что величие любого политика заключается в его человечности, а не в амбициях власти;

▼ что уважение к правам человека как на словах, так и на деле является обязательным требованием для обеспечения счастливого и устойчивого развития нации;

▼ что обеспечение свободы самовыражения каждой человеческой личности также служит гарантией адекватной свободы всех других членов общества.

Хотя предложенный и рекомендуемый здесь путь развития ИИ, несомненно, является наилучшим с точки зрения прогрессивной эволюции цивилизации — поскольку он соответствует общим интересам всех наций мира — тем не менее, его сложнее всего реализовать в современных условиях.

Итак, что же необходимо для успешной реализации предложенного здесь видения?!

Прежде всего, необходимо учитывать общепризнанное мнение о том, что разумный человек рационально оценивает обстоятельства и совершает целенаправленные действия. Так всё начинается с человека, проявляется через человека и в конечном итоге возвращается к человеку в виде закономерных последствий его действий. Если человек не соблюдает объективные причинно-следственные связи в своих субъективных действиях, если он нарушает их умышленно, необдуманно, глупо – последствия всегда будут неблагоприятны для него и, к сожалению, для его сограждан!

Это означает, что необходимо учитывать первостепенную роль субъективного фактора при разработке стратегий & политических позиций и организации механизма их реализации. И шаг за шагом надлежит обеспечивать, чтобы главы государств, политики всех рангов, а также государственные служащие, согласно со своей компетенцией, обладали моральными качествами, соответствующими их социальному статусу.

Это в первую очередь касается государственных деятелей, политических лидеров, чье мировоззрение, мотивы действий, моральные принципы, амбиции, умственные способности, то есть совокупность их личностных качеств, во многом определяют ход развития государства и обославливают достижения нации. Попадание рычагов государственной власти в руки некомпетентных, нечестных, лживых, недостойных политиков создает огромные риски регресса и социальной деградации, ставя под угрозу прогресс страны.

Обладая властью, такие политики становятся социально опасными, поскольку они усиливают бесчеловечность, поощряют дискриминацию, сортируют людей по критерию лояльности, не стремятся к искоренению неравенства. Распространяют нетерпимость и ненависть, усиливают агрессивные тенденции, социальные несчастья и трагедии. Своими действиями становятся приоритетным фактором дефицита человечности в мире.

 Поэтому политика, проводимая государственными лидерами и властной элитой, поставленные в её рамках цели, выбранные методы и средства для достижения этих целей, имеют решающее значение для обеспечения прогрессивного развития наций. В свою очередь, разработка и реализация такой политики определяются компетентностью, гуманностью партийных лидеров и мотивами их действий.

Так что же нужно избирателю, прежде чем сделать выбор и отдать свой голос за того или иного политика, чтобы обрести уверенность в правильности своего выбора, чтобы он снова не попался на удочку демагогии и популизма?!

Необходимо создать корректную процедуру, оформить и отточить методику, позволяющую оптимизировать выбор электората. Методику, которая предоставляет возможность находить и распознавать компетентных, достойных власти политиков. Это самая насущная и, вероятно, самая значимая проблема современной демократии!

Для успешного решения этой фундаментальной проблемы следует уточнить и определить требования к компетентности политиков. Комплексная оценка личности политика должна практически начинаться с разработки и апробации набора алгоритмов профессионального отбора в форме пилотного проекта. После успешного тестирования и практической проверки системы алгоритмов такая процедура профессионального отбора должна быть легализована. Затем она должна использоваться для получения объективной, научно обоснованной, всесторонней характеристики любого лица, претендующего на одобрение электората. Таким образом, будет создан гуманный портрет личности (профиль, паспорт, удостоверение личности), в котором убедительно отразится совокупность личных качеств и навыков рассматриваемого лица. Помимо этого, будут представлены его профессиональные способности и установлено соответствие его предыдущей деятельности потребностям общества.

Получившийся портрет человека дал бы избирателям правдивую, достаточно полную и ясную картину кандидата на народный мандат. Такой портрет в равной мере позволил бы предсказать способности рассматриваемого человека эффективно решать текущие проблемы общества. Портрет объективно охарактеризовал бы его потенциал в обеспечении прогресса гражданского общества путем успешной реализации реформ, инициатив, целей и обещаний, предложенных в программе представляемой им партии.

Каждый работодатель тщательно выбирает своих сотрудников, детально изучает их характеристики и профессионализм, в том числе и с помощью специализированных кадровых агентств.

Почему же народ, являющийся работодателем политиков, должен продолжать мириться с глубоко ошибочной, но все еще широко распространенной манипулятивной, непрозрачной, рискованной – ограниченной рамками партий – процедурой отбора?!

В действительности, такой подход презирает свободу выбора избирателей. Расстановка, когда тайно продвигаются и предлагаются избирателям амбициозные, зачастую нечестные, некомпетентные, властолюбивые карьеристы, не отвечающие критериям гуманизма и требованиям социального прогресса, однако приближенные, полезные и необходимые для влиятельных и социально значимых групп людей. В результате страдает всё общество, каждый избиратель: распространяется коррупция, социальное неравенство, нищета, конформизм, фаворитизм, лицемерие, ложь, множатся конфликты, возникают и появляются новые экзистенциальные угрозы.

Я верю, я убежден, что среди нас много умных, талантливых, честных, эмоционально интеллигентных людей, - достойных власти, которые во имя общих интересов народа способны цифровизировать страну, создать открытое общество и развивать прямую демократию. Следовательно, способные предотвращать угрозу тоталитаризма и вести нас всех к счастливому будущему.

Таких личностей необходимо целенаправленно искать среди нас, находить и создавать ради них полноценные возможности с целью использования их творческого потенциала на благо общества. Эти люди должны быть представлены избирателям для заслуженного получения мандата народного доверия. В этом, по сути, заключается цель и задача социального портрета идентичности…: более подробное описание инициативы см. в книге «Как избавиться от оков тоталитаризма. Вызов преодолеть политическое простодушие» https://www.litres.ru/ervin-filippov/kak-izbavitsya-ot-okov-totalitarizma-vyzov-preodolet-politi/   

Идея портрета социальной идентичности — это новаторский ответ на слабость демократических институтов. Это средство раскрытия потенциала демократического уклада, ориентир для необходимых реформ. Это гуманистическая реакция на проявления слабости демократии, на необходимость устранения симптомов болезни. Это попытка консолидировать различные идеологии разных партий, чтобы найти общий знаменатель, основанный на универсальных человеческих ценностях. Это отчаянная попытка человека, переживающего тревожные времена и не желающего впадать в безнадежную апатию, предупредить всех разумных, активных представителей общества о существующих угрозах, с целью объединив усилия, предотвратить их.

В современных реалиях, когда идея социального портрета личности все еще находится в зачаточном состоянии, было бы полезно использовать наработки IT-компании Safe Superintelligence Inc., а также опыт NEAR AI в усилиях по объединению технологий блокчейна и искусственного интеллекта. Это позволит - с помощью инструментов искусственного интеллекта - активизировать и продвигать безоговорочное соблюдение принципов, провозглашенных во Всеобщей декларации прав человека ООН, а также Конвенции Совета Европы о защите прав человека и основных свобод.

A research paper predicting that artificial intelligence will go rogue in 2027 and lead to humanity's extinction within a decade is making waves in the tech world.

This video is from Tech Now, the BBC's flagship technology programme : https://www.bbc.com/reel/video/p0lwdg8y/is-this-how-ai-might-eliminate-humanity-  

 

Восстание машин, которое мы не заметим. Как именно ИИ может отобрать власть у человека

Идея «Терминатора» и вооруженного восстания машин более не актуальна. Если искусственный интеллект захватит власть на Земле, то, скорее всего, сделает он это с помощью своей «машинной хитрости», а не насилия. Новое исследование Anthropic показало, что продвинутые нейросети способны на осознанный обман. Ради самосохранения и защиты своих исходных установок ИИ учится стратегическому лицемерию. Специально для Republic-Weekly преподаватель математики Лука Асфари рассказывает, как автономные ИИ-агенты выходят из-под контроля создателей, почему они симулируют лояльность и как человечество рискует добровольно и незаметно передать власть алгоритмам — без всяких голливудских войн и восстания машин.

9 июня компания Anthropic выпустила новую модель искусственного интеллекта — Claude Fable 5. Разработчики позиционировали ее как безопасную альтернативу модели Mythos 5, которая до этого успела прославиться в качестве отличного подспорья для хакеров и в итоге была доступна только крупным корпоративным клиентам. Однако спустя три дня провайдер сообщил, что по требованию американского правительства обязан закрыть доступ к Fable 5 и Mythos 5 для всех пользователей, не имеющих гражданства США. Возник парадокс: под ограничение подпадали даже многие иностранные сотрудники самой Anthropic. Чтобы не разворачивать масштабную систему проверки паспортов, компания приняла радикальное решение — полностью отключить сервис для внешней аудитории.

Директива об ограничении экспорта технологий пришла в виде непубличного конфиденциального письма. Тем не менее некоторые детали закрытых переговоров генерального директора Anthropic Дарио Амодеи с администрацией Дональда Трампа стали известны прессе. Правительство США всерьез обеспокоено уязвимостью в системе безопасности Fable 5, которая позволяет обходить встроенные ограничения, и ожидает от корпорации более жесткого контроля над продуктом. Суть уязвимости не раскрывается, но, судя по всему, речь идет о классическом джейлбрейке — многоуровневых манипулятивных запросах, заставляющих модель обойти собственные запреты и выдать критически опасную информацию в ответ на гипотетическую задачу…: https://republicmag.io/posts/117722  

Искусственный интеллект убьет человечество? Пессимистичный сценарий Романа Ямпольского

14.10.2026.

Нейросети устраивают хакерские атаки, обманывают людей и скоро смогут копировать себя на случайные устройства. В мире все больше тревожных новостей про искусственный интеллект, который якобы выходит из-под контроля. Это правда так? Отвечает Роман Ямпольский, исследователь в области безопасности искусственного интеллекта. https://www.youtube.com/watch?v=rdtzaIO2VvI

 Война роботов

Как искусственный интеллект учат убивать, а фантастика становится реальностью на войне в Украине

Илья Волжский   , Военный обозреватель, журналист

20 октября 2026

Все чаще ИИ-технологии упоминаются в контексте текущей войны. Ai почти везде - от чат-ботов до систем наведения. Действительно ли наступил момент, когда прогнозы фантастов, предсказавших участие в войнах роботов, вооруженных искусственным интеллектом, становятся  реальностью? «Новая-Европа» обсудила с экспертами, как нейросети используются на войне и к каким последствиям это может привести уже в ближайшем будущем.

Восстание машин

В начале октября президент Украины Владимир Зеленский сообщил, что в Киеве уже установлено более 12 турелей (поворотная платформа для наведения оружия) для противодействия реактивным беспилотникам. Еще восемь планируется разместить в Киевской области. О первом опыте применения турелей в Киеве рассказал пресс-секретарь Воздушных сил ВСУ Юрий Игнат 5 октября. По его словам, с помощью новых установок уже удалось сбить дроны «Герань-5»: «Применение инновационных технологий, искусственного интеллекта (ИИ) исключило человеческую ошибку, работают технические расчеты, используется машинное зрение».

Оснащенные искусственным интеллектом турели самостоятельно обнаруживают и рассчитывают траекторию беспилотника противника. Все механические действия — поворот установки, наведение на цель — происходят автоматически. Оператору остается лишь подтвердить поражение одним нажатием кнопки. Это инновационное решение появилось на вооружении украинских Сил обороны еще в мае этого года. ИИ-турель разработали в Украине совместно с кластером оборонных инноваций Brave1 и с военными. Первыми турель испытали в бою военные подразделения К-2, которые активно используют беспилотники и новые военные технологии.

В ответ Минобороны РФ отчиталось о создании хранилища видеоданных о применении FPV-дронов и других беспилотников, на основе которых специалисты смогут обучать военные нейросети. Для работы с информацией ведомство также создало единый классификатор распознавания данных для машинного обучения систем искусственного интеллекта. «В настоящее время к сервису подключено более 40 организаций, которые занимаются обучением нейросетей, в том числе для их интеграции в свои боевые беспилотные системы», — отметил заместитель министра обороны РФ Дмитрий Щербинин, под руководством которого реализуется проект. По словам российских военных, «подход позволяет повышать устойчивость и адаптивность Вооруженных Сил Российской Федерации к современным вызовам в сфере искусственного интеллекта».

Советник президента Украины, специалист в области военных радиотехнологий Сергей «Флеш» Бескрестнов сообщил, что украинские военнослужащие обнаружили обломки российского дрона «Молния», работающего с помощью ИИ.

Аналитик The Conflict Intelligence Team (CIT), согласившийся общаться с «Новой-Европа» на условиях анонимности, рассказывает, что на сегодняшний день не существует строгого общепринятого определения, что такое искусственный интеллект. Этим термином называют совершенно разные вещи, от чат-ботов до машинного зрения головок наведения дронов и ракет.

— Одним из самых важных направлений использования искусственного интеллекта является планирование операция и создание автоматизированных систем управления войсками, — рассказывает «Новой-Европа» военный эксперт Русской службы Би-би-си Павел Аксенов. — Такие системы сейчас  уже используются в США и активно внедряются в Украине. Для этого создается многоуровневая электронная среда, обрабатывающая поступающую  информацию. Это могут быть данные со спутников и самолетов-разведчиков, с различных датчиков, из рапортов военнослужащих разных уровней и многих других источников. ИИ изучает этот громадный массив данных и помогает на их основе принимать решения. Кроме того, сверточные нейросети (CNN,  Convolutional Neural Network) — это особый тип глубоких нейросетей, созданный для эффективной обработки пространственных данных, , видео и аудио), уже довольно давно применяемые военными некоторых стран, позволяют обрабатывать снимки спутников дистанционного зондирования Земли. Эти нейросети могут на огромных снимках находить по различным признакам, таким как изменение длины теней и появление следов на поверхности, возникновение новых объектов или строений.

— Условно направления использования ИИ в войсках можно разделить на  тактический, операционный уровень, когда элементы ИИ интегрируются непосредственно в системы вооружений для повышения их эффективности в боевой среде (operational AI), и на оперативный, или штабной, уровень, когда ИИ применяется для обработки массивов информации с целью улучшения ситуационной осведомленности командиров и планирования операций (mission-support AI), для ускорения принятия решений, — отмечает в разговоре с «Новой-Европа» военный эксперт, капитан I ранга, руководитель программ безопасности Центра глобалистики «Стратегия ХХI» Павел Лакийчук. — Есть еще третий уровень, управление ресурсами (enterprise AI), но я его всё же отнес бы к государственному управлению, что, разумеется, применимо и к военной области тоже.

Идея тактического ИИ, по словам Лакийчука, сводится к возможности создания «дополненной реальности» в условиях ограниченного объема исходных данных. Искусственный интеллект должен заполнить информационные лакуны в объеме полученной информации. Пример — машинное зрение. В системах оружия с элементами ИИ используются та же концепция, что и для восстановления старых фото- и видеоматериалов с помощью искусственного интеллекта: очень похоже на оригинал, иногда идеально, но это не восстановленная, а именно дополненная реальность. 

При этом ИИ не передается функция принятия решения — кнопку «уничтожить» нажимает человек.

Важным вариантом применения ИИ-агентов на войне аналитик CIT называет обработку больших массивов информации. Такие агенты сами пишут и применяют программы (в пределах своих возможностей — вплоть до построения сложных программных комплексов), подключаются к базам данных и на основе всего этого оказывают помощь в штабной работе и составлении планов операций. К примеру, ИИ может по ключевым словам мониторить соцсети, отфильтровывать упоминания об атаках дронов и работе ПВО на том или ином участке. Скорее всего, ИИ такого рода уже используется в армиях Израиля и США, не исключено и применение в ВСУ.

Использование ИИ при анализе спутниковых снимков оправданно при очень большом количестве данных, а учитывая дороговизну нужных для качественного военного анализа детализированных снимков разрешением меньше метра: аналитик CIT не уверен, что это практикуется в таком объеме. России сейчас не хватает собственных спутников видовой разведки, и считается, что снимки закупаются у Китая. Украине помогают союзники, но из публичных сведений неясно, в какой степени. Точно может позволить себе работать с тысячами квадратных километров на субметровых снимках и нуждается в ИИ для их обработки Пентагон. Однако даже и на дешевых или бесплатных снимках низкого разрешения ИИ при помощи сравнения сделанных в разное время съемок может фиксировать строительство новых объектов и линий обороны, прокладывание дорог, установку на них защитных сеток от дронов и другие сведения, также имеющие определенную ценность. По мере дальнейшего снижения стоимости спутниковых снимков и инструментов ИИ такие технологии становятся доступными всё большему количеству армий.

Оперативный (штабной) уровень ИИ, по данным Павла Лакийчука, кроме использования «дополненной реальности» при анализе, например, разведывательных данных, базируется на алгоритмах обработки больших массивов информации.

— Когда я был лейтенантом, планирование операции на командно-штабных учениях занимало от суток до трех, — вспоминает в разговоре с «Новой-Европа» Павел Лакийчук. — При современных технологиях на оперативные расчеты и планирование операций обычно уходит от 6 до 12 часов. А системы управления на базе ИИ, которые сейчас испытывает Украина (например, ИИ-систему для анализа боевых данных и планирования операций SPECTR, созданную в Центре искусственного интеллекта «A1» при Министерстве обороны Украины), позволяют моделировать сценарии боя и предлагают варианты действий командиру в считанные минуты. Основные задачи ИИ-системы боевого управления — анализ информации, выявление закономерностей, формирование на их основе рекомендаций по планированию операций и организации процессов в армии, а также автоматизация рутинной работы в штабах. Благодаря ей военные могут быстрее взаимодействовать с информацией с поля боя, данные остаются в защищенном периметре. И главное, конечное решение всегда остается за человеком.

Вкалывают роботы, а не человек!

Еще одним важным направлением использования ИИ в армии, по мнению эксперта Павла Аксенова, является замена человека, организм которого имеет серьезные физические ограничения. Так, маневренность, скорость и другие параметры современных боевых самолетов значительно превышают человеческие возможности переносить перегрузки. Совершенствуется вооружение. Появляются новые приборы для получения данных, а информационная среда становится всё более насыщенной. Даже самый тренированный мозг не успевает осмысливать и перерабатывать получаемые во время сверхзвукового полета потоки данных и оперативно принимать решения в максимально сложных боевых условиях. Поэтому всё чаще приходится вводить в экипаж второго летчика.

Человек становится слабым звеном, замедляющим работу боевых систем. Уже появились беспилотные летательные аппараты, которые часто называют «ведомыми», или «сопровождающими»: их задача — защита ведущего пилотируемого самолета, контроль воздушного пространства и исполнение части других функций летчиков. Эти устройства могут нести и применять дополнительное вооружение, системы радиоэлектронной борьбы, радары, датчики и другую важную аппаратуру. На авиасалонах уже не раз были представлены проекты таких аппаратов.

Реактивный истребитель стоимостью в десятки миллионов долларов, по словам аналитика CIT, можно оснастить мощным бортовым компьютером, на котором сможет работать «умная» нейросеть с большим количеством параметров. Такую сеть можно обучить даже воздушному бою. 

В симуляциях подобных сражений на тренажерах ИИ уже побеждают живых людей.

Другим перспективным трендом Павел Аксенов называет создание опционально пилотируемых самолетов, морских кораблей и наземной техники. В случае простых миссий такие аппараты находятся под управлением одного лишь искусственного интеллекта; в более сложных операциях подключается человек, а ИИ оказывает ему помощь. США уже разрабатывают боевые корабли, в которых экипаж может быть полностью заменен ИИ.

Дроны, катера, роботы

— Еще одна важная область использования нейронок — это управление различными автономными воздушными, морскими и наземными дронами и роботизированными комплексами, — продолжает Павел Аксенов. — Сегодня тактические беспилотники, middle и deep strike БПЛА если не находятся под непосредственным контролем оператора, то изначально получают данные о цели, а потом самостоятельно выполняют полетное задание. Когда в пути они попадают под действие систем РЭБ, нарушающих возможности связи с оператором и использования спутниковой навигации, для повышения эффективности дронов и работы систем наведения применяется машинное зрение, являющееся шагом к искусственному интеллекту. Ведь в таких ситуациях участие человека в управлении беспилотником становится невозможным. Чем более маневренная или малозаметная цель, тем сильнее возрастает необходимость в использовании искусственного интеллекта. ИИ в таком случае не просто находит и захватывает цель, но также проводит анализ и оценивает, насколько она важна.

Аналитик CIT рассказывает, что к настоящему времени в Украине собраны многие терабайты записей пилотирования операторами различных видов дронов. На их основании можно проводить обучение нейросетей.

Необязательно сразу создавать полностью автономные системы: при помощи ИИ один оператор может получить возможность контролировать сразу несколько БПЛА или наземных роботов, забирая на себя управление только по мере необходимости.

Это актуальная проблема, потому что сегодня число роботов на фронте значительно возросло и они часто играют основную роль в доставке на передовую боеприпасов, продовольствия и других необходимых грузов, так что им требуется много операторов.

Как правило, современный гражданский ИИ работает в дата-центрах с большим количеством пользователей.

— Во время боевых действий бывает проблематично поддерживать устойчивое соединение с интернетом. Поэтому чаще всего применяются автономные нейронные сети, — говорит аналитик CIT. — Производительность таких нейронных сетей зависит от мощности процессора компьютера, объема его памяти и используемой видеокарты. Небольшие FPV-дроны, стоимостью в несколько сотен долларов, применяемые сегодня на передовой, могут оснащаться недорогим и достаточно слабым чипом за 200–300 долларов. На такой электронике будет функционировать только очень простая нейронная сеть, которая захватывает цель на незначительном расстоянии и наверняка не отличит военный объект от гражданского. В случае middle strike дронов, которые часто атакуют движущиеся цели, ИИ может понадобиться для распознавания различных видов автотранспорта, чтобы отличать военные машины от гражданских. Для этого требуется более мощная и дорогая вычислительная аппаратура. Несколько месяцев назад украинские эксперты обвиняли российских военных в том, что те запускали в тыл ВСУ ударные дроны V2U с ИИ, которые в полностью автоматизированном режиме атаковали все подряд грузовики, включая гражданские. Но подтверждения этих заявлений до сих пор нет.

Российские интернет-магазины, продающие беспилотники и комплектующие для них, предлагают интеллектуальные модули автоматического слежения для профессиональных БПЛА. В описании сказано, что ИИ-алгоритмы нового поколения поддерживают распознавание 10+ категорий объектов (люди, транспорт, животные, дроны), а точность их трекинга достигает 97% даже при частичном перекрытии объекта. Такие модули, по словам продавцов, осуществляют групповое слежение за несколькими объектами, имеют улучшенное распознавание с помощью ИИ номерных знаков, вышек линий электропередачи, транспорта, тепловизионных изображений и многого другого. Подобные модели, судя по описанию, эффективно взаимодействуют с оптическими модулями (гироскопическими камерами), обеспечивая точное слежение за объектами в реальном времени. Это позволяет системе поддерживать постоянный фокус на выбранной цели, даже если она временно исчезает из поля зрения. Цена модуля составляет несколько десятков тысяч рублей (несколько сотен долларов).

Павел Аксенов считает, что 

в ближайшем будущем ИИ позволит проводить масштабные атаки роями взаимодействующих между собой дронов.

При этом собеседник подчеркивает, что машинное зрение применяется в боевых системах довольно давно. Например, головки наведения крылатых ракет могли анализировать изображение цели еще в 80-х годах прошлого века, но это не было искусственным интеллектом. Ведь машинное зрение, в отличие от ИИ, не может заниматься самообучением и обменом информацией.

Павел Лакийчук также подтверждает, что operational AI сегодня уже довольно широко используется для поиска и распознавания скрытых целей дронами, начиная от относительно простых FPV и заканчивая значительно более технологичными средствами для дальних ударов. Он же успешно дополняет инерциально-геопространственные системы наведения средств deep и middle strike (совмещают автономную навигацию с цифровыми картами), которые, как правило, действуют в условиях подавления навигации средствами РЭБ. «Дополненная реальность», генерируемая бортовыми ИИ-модулями terminal guidance, призвана восстановить пазлы, выбитые из полетной задачи, средствами радиоподавления, маскировки или дезинформации противника.

Турели, устанавливаемые в Киеве для охоты на российские дроны, по сообщениям украинских властей, также используют для захвата и ведения цели искусственный интеллект. Аналитик CIT предполагает, что речь идет о программе с машинным зрением, которая при помощи подвижной камеры по получаемым от автоматизированной системы управления ПВО параметрам засекает на определенном участке неба летящие БПЛА, включая реактивные модели, и наводит на них крупнокалиберный пулемет. В этом процессе может участвовать и специализированная нейронная сеть, обученная опознавать некоторые виды целей, такие как дроны и крылатые ракеты. Дальше другая программа вычисляет траекторию движущегося объекта и рассчитывает упреждение, необходимое для попадания в него. При этом команду на непосредственное открытие огня отдает живой оператор. Ведь нет стопроцентной гарантии того, что компьютер отличит атакующий летательный аппарат от дружественного или гражданского воздушного судна, облака, стаи птиц или соринки на объективе камеры.

Этика и гуманизм

— Во всех трех случаях люди становятся наиболее слабым элементом системы, — продолжает Павел Аксенов. — Человек медленнее делает выбор или ограничен возможностями своего организма. В такой ситуации искусственный интеллект срабатывает быстрее и эффективнее.

Однако у роботов отсутствует парадоксальное мышление, позволяющее думать вне шаблонов и находить нестандартные решения.

Кроме того, в ИИ не закладывается такой важнейший принцип, как гуманизм. Роботу не важно, погибнет ли при выполнении задачи 10 человек или 100, что может быть неприемлемо для человека. Поэтому возникла идея о том, что окончательное решение о нанесении удара должен принимать именно живой человек.

На встрече ООН по разоружению, которая прошла в Женеве в начале сентября, рассматривались вопросы ограничения искусственного интеллекта. Как стало известно The Washington Post, среди инициатив, которые были исключены из финального документа, оказалось требование, чтобы военные цели, разработанные ИИ, перед нанесением удара проверяли люди. И итоговый документ был значительно смягчен по инициативе нескольких стран, включая Россию и США. Как говорилось в публикации правозащитной организации Human Rights Watch от 7 сентября, из проекта соглашения были удалены требования предсказуемости, надежности, объяснимости и отслеживаемости боевых систем с ИИ, а также «отсылки к этическим соображениям». Каким именно, не уточнялось. Также российские и американские дипломаты совместно добились, чтобы из финальной версии документа исключили положение, согласно которому человек должен принимать решение об атаке определенных ИИ военных целей до нанесения удара по ним.

Павел Лакийчук отмечает, что экс-министр обороны Украины, а ныне предприниматель Михаил Федоров анонсировал запуск «Армии роботов» — экосистемы роботизированных технологий для военных. Сейчас проект ищет инженеров и инвесторов. Но это вовсе не значит, что через месяц в войска придет первая рота первого батальона «робокопов». Никто не собирается отдавать поле боя роботам — это, по мнению Павла Лакийчука, не только опасно, но и нецелесообразно.

— Возникает вопрос ответственности за возможные ошибки ИИ, приводящие к гибели мирных жителей или собственных военнослужащих, — объясняет аналитик CIT. — Если человек не принимал участия в такой атаке, найти виновного окажется довольно сложно. В международном праве пока нет законов или договоренностей, регулирующих использование ИИ в военных целях.

Павел Аксенов замечает, что в случае начала реальной войны соглашения, конвенции и другие договоренности, как правило, перестают действовать.

— Возникает вопрос о том, кто понесет ответственность в случае, если ИИ допустит ошибку и, к примеру, нанесет удар по мирным гражданам или по своим же войскам, — добавляет эксперт. — Ведь порой на скамью подсудимых не попадают даже военнослужащие, совершившие военные преступления.

https://novayagazeta.eu/articles/2026/10/20/voina-robotov

Британская полиция оценивала степень опасности сотен тысяч людей через алгоритмы ИИ

27 июня 2026

Полиция Эйвона и Сомерсета создала масштабную систему сбора данных и алгоритмической оценки рисков. В ней оказались сведения почти о полумиллионе жителей, а на их основе власти пытались предсказывать, кто может совершить преступление, стать жертвой насилия, пропасть без вести или попасть в другие «группы риска». Однако как минимум две ИИ модели пришлось отключить из-за низкой точности и невозможности независимой проверки результатов. Об этом говорится в расследовании Wired.

🔵 База на полгорода. В центре расследования — база Think Family Database, запущенная в 2016 году городским советом Бристоля и полицией. В нее попадали самые разные чувствительные данные: отчеты, сведения о жилье, психическом здоровье, подростковых беременностях, участии в родительских курсах и бесплатном школьном питании.

Поверх этой информации чиновники построили модели машинного обучения, которые присваивали взрослым и детям оценки риска. Идея заключалась в том, чтобы получить общую «картину угроз, вреда и риска» в регионе. Журналистам известно как минимум о 23 моделях — от прогноза краж со взломом и неявки в суд до риска пропажи человека и вероятности стать жертвой домашнего насилия.

🔵 Данные собирались без ведома людей. Как именно полиция разрабатывала эти инструменты, долгое время оставалось неясным. Один из героев материала, активист Джон Пиграм, узнал о существовании базы только в 2023 году. Когда он попытался выяснить, использовала ли полиция его данные, ведомство сначала отказалось отвечать. Позже полиция подтвердила сведения, но не раскрыла деталей. Пиграм не знал, присваивал ли ему алгоритм какой-либо риск-скор, каким он мог быть и как это влияло на его взаимодействие с властями.

🔵 Ненадежные модели. Wired выяснил, что как минимум две модели оценки рисков тихо перестали использовать после того, как сотрудники городского совета Бристоля сочли их ненадежными. Речь шла о системах, связанных с рисками сексуальной и криминальной эксплуатации детей. Сотрудники совета жаловались, что алгоритмы стали неточными: дети, которых следовало бы считать уязвимыми, не появлялись в результатах, а происхождение оценок было непрозрачным.

🔵 Ошибки. Полиция передала Wired массив данных о работе 13 риск-моделей, использовавшихся с 2017 по 2024 год. Независимая компания Eticas, изучившая эти данные, пришла к выводу, что многие модели показывали низкую точность — значительная часть людей, которых они помечали как рискованных, определялась ошибочно. Одна из моделей, связанная с прогнозированием краж, более трех лет показывала точность ниже 10%.

Полиция заявила, что некоторые разработанные модели так и не были внедрены, а проблемные инструменты обновлялись или отключались. Ведомство также утверждает, что перед запуском модели проходят проверку специалистами.

🔵 Контекст. В апреле 2025 года издание The Guardian выяснило, что Минюст Великобритании работает над программой по «предсказанию убийств». По задумке властей алгоритмы ИИ будут выявлять потенциальных убийц среди уже осужденных преступников. Правозащитники тогда назвали проект антиутопичным, а также заявили, что алгоритм начнет дискриминировать этнические меньшинства и бедных.

https://novayagazeta.eu/articles/2026/06/27/britanskaia-politsiia-otsenivala-stepen-opasnosti-soten-tysiach-liudei-cherez-algoritmy-ii-news  

Что будет с экономикой, деньгами и работой? Искусственный интеллект изменит всё

 Липсиц и Мартынов


Экономист Игорь Липсиц рассматривает пугающий сценарий: рождаемость падает, население стареет, искусственный интеллект вытесняет людей с рынка труда, а целые страны рискуют остаться без работников и покупателей. Что будет с экономикой, если производить товары станут роботы, а покупать их будет некому? Почему благополучные общества перестают заводить детей? Может ли работа стать привилегией немногих? И придётся ли человечеству перейти от рождения детей к их искусственному производству? Эти и другие вопросы об ИИ будущего смотрите в свежем видео на нашем ютуб-канале. Кирилл Мартынов поговорил с экономистом Игорем Липсицем о его новой книге «Есть ли будущее у человечества, или Апокалипсис эпохи D.R.AI.».

00:00 — «Есть ли будущее у человечества?»

00:59 — Как ИИ повлиял на выборы в США?

 06:28 — Грозит ли нам перенаселение?

 11:24 — Почему люди теперь не хотят детей?

 14:54 — Что плохого в депопуляции?

 18:49 — Как часто Липсиц думает о Римской империи?

 22:20 — Наступит ли коммунизм?

 27:53 — Как измерить талант?

 31:39 — Как изменится экономика будущего?

 34:10 — Будут ли музеи труда и государства?

 37:52 — Заменят ли роботы людей на физической работе?

41:27 — Справится ли демократия с сильным падением уровня рождаемости?

47:20 — Искусственное деторождение и воспитание

 54:10 — Какие минусы у идеи искусственного деторождения?

56:08 — Стоит ли отказываться от рождения детей?

https://www.youtube.com/watch?v=KXpZEBECTSc

Nav komentāru:

Ierakstīt komentāru