Можно ли доверять искусственному интеллекту? Как он путает человека и птицу? Почему его обвиняют в феномене постправды и сможет ли он ее победить? Об этом шла речь на заседании президиума Российской академии наук.

Кто скажет, а почему академики вообще так встревожились? Ведь искусственный интеллект, созданный на основе нейросетей, уже уверенно шагает по планете, стремительно занимает все новые ниши, вытесняя человека. Он диагнозы ставит, лица идентифицирует, музыку и картины пишет, чемпионов в покер и го обыгрывает, предсказывает погоду и банкротства. Энтузиасты утверждают, что совсем скоро он возьмет на себя практически все сферы жизни, к нему перейдут функции и экспертизы, и управления, и выбора оптимальных вариантов развития экономики, а, в конце концов, и общества.

Такое будущее уже не выглядит сюжетом фантастического рассказа. Во всяком случае, ведущие страны делают ставку на нейросети, заявляя: кто будет лидером в этой сфере, тот будет править миром. Поэтому принимаются национальные программы, выделяются огромные деньги. Словом, сейчас ИИ наше все.

Однако на президиуме РАН вопрос был поставлен ребром: а можно ли вообще доверять этим искусственным мозгам? Где границы этого доверия? Какое место они оставляют человеку?

- Дело в том, что ИИ это сегодня "черный ящик", но самое главное, что никто, даже сами авторы программ не знают, как он работает, - сказал президент РАН Александр Сергеев. - Можно ли в такой ситуации довериться его выводам? Ведь он будет, по сути, брать на себя функции оракула по самым разным вопросам. И надо признать, что многие задачи эта умная машина уже сейчас делает быстрее и лучше человека. И кто знает, а может у кого-то вообще может возникнуть соблазн: так давайте вообще откажемся от науки. Все передоверим нейросетям, на них любые расчеты смогут провести обычные операторы даже без высшего образования. Ведь есть программа, ввел в нее входные данные, она произвела расчеты, на выходе - результат. Но мало кто задумывается, что в итоге такого доверия можно получить совершенно искаженную картину, которая обойдется в многие миллионы долларов. Почему президент РАН сомневается? Ведь мы давно полагаемся на компьютеры, которые помогают решать самые сложнейшие задачи. Почему доверяя компьютерам, мы отказываем нейросетям? Оказывается, ситуация с ними кардинально иная.

- Революцией в познании мира стали созданные еще в 17 веке Ньютоном дифференциальные уравнения, - сказал академик Игорь Соколов. - Они позволили описывать и моделировать многие процессы окружающего мира и находить решения. А появившиеся в 50-х годах ЭВМ смогли быстро и эффективно справляться со сложнейшими уравнениями. Прорывы в ядерной физике и космонавтике связаны именно с этой вычислительной техникой.

Но принципиально важно подчеркнуть, что вся эта супертехника, по сути, является суперкалькулятором, только считающим с фантастической скоростью. Совсем иное дело нейросети, созданные по аналогии с мозгом человека. Но как мы до сих пор не понимаем, как работает наш мозг, также не понимаем, что происходит в нейросети. Хотя в их основе лежит довольно простое уравнение одного нейрона, но когда 500 миллиардов таких "простушек" объединяются в гигантские сети, никто не может сказать, какие там устанавливаются связи, как они вообще считают. Одно слово - "черный ящик".

Более того, чем больше с ним работают, тем больше у него выявляется изъянов. Вот только несколько простых примеров. Прежде чем выпустить ИИ в люди, его обучают на сотнях тысячах, а лучше миллионах примерах. И если в "учебнике" поменять всего один пиксель, то нейросеть примет тигра за медведя. А скажем, если человек оденет майку с изображением птицы, то назовет его птицей. А самый громкий ляп связан с применением ИИ в медицине. Это провал широко разрекламированной многомиллионной нейросети знаменитой фирмы IBM. Оказалось, что она ставит диагнозы и консультирует хуже среднего врача. После нескольких лет работы систему удалили с рынка.

Вывод: хотя ИИ и очень умный, но и он далеко не безгрешен, совершает ошибки. Можно ли их исправлять? Как залезть в черный ящик, не "разрушая" его?

- Сегодня мировой тренд - создание так называемого доверенного искусственного интеллекта, - сказал академик Арутюн Аветисян. - То есть разработать такие требования, которые в принципе не позволят выпустить в мир нейросеть, которая способна совершать ошибки. И тестировать эту технику перед началом эксплуатации. Если пройдет испытание успешно, то можно доверять. Для разработки таких аналогов ГОСТов в институте создан первый в России Центр доверенного искусственного интеллекта.

И, конечно, ученые обратили внимание на "больной" для общества феномен последнего времени, которое получило название "постправда". Этот информационный поток - фейки, ботофермы, информационные пузыри - намеренно конструируется для манипулирования общественным сознанием.

ИИ сегодня - это "черный ящик", но самое главное, никто, даже сами авторы программ не знают, как он работает

Конечно, на протяжении всей своей истории люди лгали друг другу, сплетничали и распространяли слухи. Но если раньше это явление было "домашним", то технологии ИИ выплеснули его в мир. Сегодня с помощью нейросетей можно очень быстро генерировать миллионы фейковых новостей, которые заполоняют информационное пространство, и под этим напором лжи нам все сложней отыскать истину.

Наука ищет способы остановить этот поток постправды. Парадоксально, но тот, кто ее породил, тот же с ней и борется. Такие фейки тоже создаются на основе нейросетей. Пока им под силу только довольно простые фейки, да и здесь они делают много ошибок.

- Но лгут не только авторы фейков, но и официальные СМИ, которые ведут информационные войны в интересах своих заказчиков. И лгут настолько изощренно, что порой даже матерый профи может попасть на удочку. Чтобы поймать лжецов за язык, нужны очень изощренные нейросети, - утверждает завотделом Интеллектуальных систем ФИЦ "Информатика и управление" РАН Константин Воронцов. - Это сложная задача, для решения потребуются совместные усилия программистов, лингвистов, психологов, социологов, политологов, журналистов, историков. В каждом браузере должен появиться анализатор медиаконтента, предупреждающий пользователя о недостоверной информации, токсичном контенте, использовании приемов манипуляции, и дающий ссылки на доверенные источники.

Ссылка: https://rg.ru/2021/12/07/pochemu-akademiki-ne-doveriaiut-iskusstvennomu-intellektu.html

Вопрос о том, как люди повлияли на отдельные экстремальные погодные явления, имеет как научное, так и социальное значение. Однако недостатки в представлении климатических моделей ключевых механизмов в цепочках процессов, определяющих погоду, уменьшают уверенность в оценках антропогенного воздействия на экстремальные явления. Авторы предположили, что использование моделей прогноза, которые успешно предсказали рассматриваемое событие, может повысить надёжность таких оценок. Использование успешного прогноза означает, что можно быть уверенным, что модель может достоверно представить характеристики конкретного экстремального события. Эта основанная на прогнозе методология использована для оценки прямого радиационного воздействия повышенных концентраций CO2 (один компонент, но не всё антропогенное воздействие) на волну тепла в Европе в феврале 2019 года. 

Установление экстремальных погодных явлений и рост их числа имеют место в последнее десятилетие. Однако недостатки в представлении климатической моделью ключевых динамических движущих сил экстремальных явлений привели к некоторым опасениям относительно надёжности исследований атрибуции, основанных на результатах климатических моделей. Также было высказано предположение, что безусловный ориентированный на риски подход к атрибуции событий может привести к ложноотрицательным результатам из-за динамического шума, подавляющего любой сигнал об изменении климата. Схема атрибуции «сюжетная линия», в которой исследуется влияние изменения климата на отдельные движущие силы экстремального явления, направлена ​​на смягчение этих опасений. Авторы предлагают методологию атрибуции экстремальных погодных явлений с использованием действующей модели среднесрочного прогноза Европейского центра среднесрочных прогнозов погоды, успешно предсказавшей такое событие. Использование успешного прогноза гарантирует не только то, что модель способна точно представить рассматриваемое событие, но и то, что анализ однозначно является атрибуцией этого конкретного события, а не «смесью» нескольких различных событий, имеющих некоторые общие характеристики. Поскольку эта методология атрибуции зависит от компонента события, который был предсказуем при инициализации прогноза, авторы показывают, как корректировка заблаговременности прогноза может гибко установить желаемый уровень обусловленности. Такая гибкая корректировка позволяет синтезировать сюжетную линию (сильно обусловленную) и подход, основанный на оценке риска (относительно безусловный). Продемонстрирована эта основанная на прогнозах методология путём частичного объяснения прямого радиационного воздействия повышенных концентраций CO2 на исключительную зимнюю аномальную жару в Европе в феврале 2019 года.

Ссылка: https://www.pnas.org/content/118/49/e2112087118

Также новый базовый законопроект о региональной власти, который в том числе определяет полномочия субъектов РФ, снимает запрет для губернаторов избираться более чем на два срока подряд и вводит единый срок полномочий для них - пять лет

МОСКВА, 8 декабря. /ТАСС/. Комитет Госдумы по госстроительству и законодательству в среду поддержал поправку к законопроекту о региональной власти, согласно которой субъекты РФ получат право проводить мероприятия в связи с климатическими изменениями.

"На Госсовете ряд министерств выступил по поводу климатических изменений", - отметил на заседании комитета его председатель Павел Крашенинников. В связи с этим к законопроекту была предложена поправка, согласно которой "в полномочия региона по совместному ведению входят мероприятия по адаптации к изменениям климата на территории Российской Федерации и соответствующего субъекта РФ".

Ранее комитет поддержал поправку в законопроект, которая устанавливала исчерпывающий перечень полномочий регионов.

Новый базовый законопроект о региональной власти, который в том числе определяет полномочия субъектов РФ, снимает запрет для губернаторов избираться более чем на два срока подряд и вводит единый срок полномочий для них - пять лет. Документом закрепляется, что федеральные органы власти, органы власти регионов и местного самоуправления "в их совокупности входят в единую систему публичной власти", их согласованное функционирование и взаимодействие обеспечивает президент РФ. Таким образом, законодательство в этой части приводится в соответствие с новыми положениями Конституции РФ.

Законопроект будет рассмотрен во втором чтении 9 декабря.

Ссылка:  https://tass-ru.turbopages.org/tass.ru/s/obschestvo/13142079

Ученые обнаружили, что при таянии вечной мерзлоты в Сибири выделяется закись азота

МОСКВА, 7 дек — РИА Новости. Ранее неизвестный источник сильного парникового газа — закиси азота — обнаружили ученые в Восточной Сибири. Оказалось, что газ выделяется при таянии едомы — богатой органикой мерзлой арктической почвы. Результаты исследования опубликованы в журнале Nature Communications.

Закись азота N2O — третий по значимости парниковый газ после углекислого газа и метана. При этом по своему влиянию на климат на единицу массы он в триста раз сильнее, чем углекислый газ. Закись азота вырабатывается в почве в результате деятельности микробов.

Исследователи из Университета Восточной Финляндии вместе с коллегами из России, Германии, США, Австрии и Канады, изучающие поведение многолетней мерзлоты на севере Восточной Сибири, обратили внимание на то, что богатые органикой и лессом толщи льда, известные как едома, выделяют большие количества закиси азота.

Едомные возвышенности занимают большие площади в Восточной Сибири, Якутии и на Аляске и считаются источником парниковых газов. Однако до сих пор основное внимание уделяли образующимся при таянии едомы метану и углекислому газу. Авторы доказали, что не меньшую опасность для арктических экосистем представляют выбросы закиси азота.

Исследователи провели измерения концентраций газов на берегах рек Лена и Колыма в Восточной Сибири, где из-за быстрого таяния вечной мерзлоты едома выведена на поверхность. Авторы обнаружили, что выбросы закиси азота из недавно оттаявшей едомы изначально были очень низкими, но менее чем за десятилетие заметно увеличились и сейчас превышают типичные выделения из почв, затронутых вечной мерзлотой, на один-два порядка.

"Выбросы азота в результате таяния вечной мерзлоты могут существенно увеличить доступность азота в арктических экосистемах, что, помимо прямой климатической обратной связи, может иметь серьезные последствия для фиксации углерода растениями и эвтрофикации водных систем", — приводятся в пресс-релизе Университета Восточной Финляндии слова ведущего автора исследования, доктора наук Майи Марущак.

Ученые считают, что увеличение выбросов закиси азота связано с высыханием и стабилизацией осадков едомы после оттаивания, а также с изменениями в микробном сообществе, участвующем в круговороте азота в почве — увеличением относительной доли микробов, производящих нитраты и оксид азота — вещества-предшественники закиси азота, и уменьшением доли микробов, потребляющих оксид азота.

Обычно главным источником закиси азота считают сельскохозяйственные почвы, обогащенные минеральным азотом, входящим в состав удобрений. Арктическим регионам до сих пор уделяли мало внимания, так как круговорот азота в холодных мерзлых почвах протекает медленно. Оказалось, что с потеплением, нарушением растительного покрова и таянием вечной мерзлоты выбросы этого сильнейшего парникового газа из арктических почв увеличиваются.

Ссылка: https://ria.ru/20211207/merzlota-1762611548.html

АФК «Система» Владимира Евтушенкова планирует инвестировать несколько миллиардов рублей в развитие спутникового флота компании «Спутникс». В ближайшие два года компания запустит до 100 спутников различного назначения и намерена предлагать собственные космические снимки заказчикам через онлайн-сервис

Компания «Спутникс», которую в 2021 году приобрела АФК «Система» Владимира Евтушенкова, планирует запустить в космос до 100 малых спутников. Вложения составят несколько миллиардов рублей, а зарабатывать компания будет, предлагая результаты дистанционного зондирования Земли (ДЗЗ) через специальный маркетплейс, пишут «Ведомости» со ссылкой на презентацию компании и председателя совета директоров «Ситроникса», управляющего партнера АФК «Система» Алексея Каткова и ее президента Николая Пожидаева.

Сейчас орбитальная группировка «Спутникса» насчитывает три собственных спутника. Уже в следующем году число космических аппаратов на орбите Земли увеличится до 22, следует из презентации компании. Президент «Ситроникса», дочерней компании «Системы», управляющей «Спутниксом», рассказал, что в проекте могут задействовать наноаппараты на базе спутниковой платформы OrbiCraft-Pro. На этой платформе компания сейчас разрабатывает спутник ДЗЗ среднего разрешения «Зоркий», радиолокационный спутник «Атомсат» разрабатывается на базе платформы «Паллада», уточнила официальный представитель «Ситроникса».

На основе собственной космической флотилии «Спутникс» намерен развивать сервис спутникового интернета вещей с возможностью передачи sms со стационарных или подвижных объектов. Предполагается оказывать эту услугу промышленности и ТЭКу, в том числе на Северном морском пути. «Спутникс» планирует осуществлять из космоса мониторинг углеродного следа, вырубки лесов, пожаров и предоставлять услугу радарного зондирования Земли.

«Оценки российского рынка космических данных разнятся; по нашим оценкам, в настоящее время емкость этого рынка достигает 10 млрд рублей. Мы хотели бы стать весомым игроком на этом рынке», – сказал Катков. Стоимость выведения на орбиту малого космического аппарата – около 10 млн рублей, стоимость его производства — примерно такая же, уточнил собеседник газеты. Таким образом стоимость создания спутникового флота из 100 спутников составит более 2 млрд рублей.

По мнению члена-корреспондента Российской академии космонавтики имени Циолковского Андрея Ионина, заявленная смета производства представляется заниженной. На производство спутников и их выведение на орбиту потребуется не менее 2 млрд рублей, считает главный специалист Института географии РАН Николай Казанцев. «Роскосмос» одобряет развитие частных инициатив на рынке ДДЗ и готов оказывать помощь и поддержку партнерам, прокомментировал проект «Ситроникса» представитель пресс-службы госкорпорации.

По словам Каткова, одновременно с наращиванием орбитальной группировки «Спутникс» создаст маркетплейс. На площадке заказчикам будут предлагаться результаты ДЗЗ — снимки космических аппаратов отечественных и зарубежных систем. В России в отличие от конкурентов у «Спутникса» будут данные с собственных спутников, отмечает Катков. «Мы сформируем вертикальную структуру, когда сами создаем космические аппараты, управляем ими на орбите, получаем с них данные и предоставляем на их основе сервисы»», — сказал управляющий партнер «Системы».

В мире есть успешные маркетплейсы спутниковых данных, например, сервис американской компании Planet, которая владеет собственным созвездием спутников, рассказала основатель компании «Лоретт» Ольга Гершензон. По ее оценке, в России рынка данных ДЗЗ практически нет, а новые законодательные инициативы «Роскосмоса» направлены на его монополизацию в пользу госорганов. Разработка маркетплейса без учета покупки спутниковых данных обойдется в десятки миллионов рублей, оценила собеседница. Казанцев среди компаний, которые предоставляют в России данные ДДЗ и услуги на их основе с зарубежных космических аппаратов, назвал «Совзонд» и «Сканекс». По словам Ионина, пока создать востребованный сервис с данными ДДЗ никому в мире не удалось.

Ссылка: https://www.forbes.ru/tekhnologii/448667-kompania-vladimira-evtusenkova-vlozit-bolee-2-mlrd-rublej-v-sputnikovyj-flot

Парижское соглашение устанавливает рамки прозрачности в отношении антропогенных выбросов диоксида углерода CO₂. Её основным компонентом являются основанные на кадастрах национальные отчёты о выбросах парниковых газов, которые дополняются независимыми оценками, полученными на основе измерений CO₂ в атмосфере в сочетании с решением обратныхзадач. Однако неизвестно, может ли такая способность поддержки мониторинга и контроля ограничивать оценки выбросов CO₂от ископаемого топлива до степени, достаточной для предоставления ценной дополнительной информации. Ожидается, что миссия по мониторингу CO₂ (CO₂M), запланированная как группа спутников, измеряющих суммарное содержание CO₂в столбеатмосферы (XCO₂), станет ключевым компонентом такой способности. Авторы предлагают новую оценку потенциала комплексной системы усвоения данных с использованием полученного с помощью моделей XCO₂ и других наблюдений для ограничения оценок выбросов CO₂ от ископаемого топлива за примерный однонедельный период в 2008 году. Они обнаружили, что CO₂M позволяет получать полезные еженедельные оценки выбросовв масштабе страны независимо от национальных кадастров. При экстраполяции от еженедельного к годовому масштабу неопределённости в выбросах сопоставимы с неопределённостями в кадастрах, так что оценки из кадастров и системы поддержки и контроля могут использоваться для взаимной проверки. Также продемонстрирован альтернативный, синергетический режим работы с целью предоставления наилучшей оценки выбросов CO₂от ископаемого топлива. В этом режиме система ассимиляции использует не только XCO₂ и другие данные предыдущего (проверочного) режима, но и результаты инвентаризации. Определены дальнейшие шаги развитияподдержки мониторинга и контроля.

Ссылка: https://iopscience.iop.org/article/10.1088/1748-9326/ac3cea

Исторические данные об активности ураганов в Атлантике, начиная с 1851 года, показывают её возрастание с течением времени, но вся или почти вся эта тенденция объясняется отсутствием наблюдений в ранней части рассматриваемого периода. Авторы использовали модель даунскейлинга тропических циклонов, основанную на трёх реанализах глобального климата, которые в основном базируются на данных о температуре поверхности моря и давлении на поверхности. Результаты подтверждают более ранние статистически обоснованные выводы о том, что штормы в XIX веке недооценивались, но, в отличие от них, показывают рост активности тропических циклонов в течение этого периода, прерванный сильной ураганной засухой в 1970-х и 1980-х годах, которую авторы связываютсвоздействиямиантропогенных аэрозолей. В соответствии с предыдущими исследованиями, они показывают, что большая часть изменчивости активности тропических циклонов в Северной Атлантике за последнее столетие была напрямую связана с региональным, а не глобальным изменением климата. Большинство показателей тропических циклонов, масштабируемых по всем тропикам, демонстрируют слабые и / или незначительные тенденции за последнее столетие, что свидетельствует об особом характере климатологии тропических циклонов в Северной Атлантике.

Ссылка: https://www.nature.com/articles/s41467-021-27364-8

Экосистемы засушливых земель оказывают доминирующее влияние как на тенденцию, так и на межгодовую изменчивость земного стока углерода. Несмотря на свою важность, динамика углерода в засушливых районах плохо описывается современными моделями. Здесь авторы представляют DryFlux, усовершенствованный продукт, созданный на основе густой сети узлов вихревой ковариации на юго-западе Северной Америки. Для оценки валовой первичной продуктивности засушливых земель они объединили потоки, измеренные на местах, с данными дистанционного зондирования и метеорологических наблюдений с использованием машинного обучения. DryFlux явно учитывает внутригодовые колебания доступности воды и точно предсказывает межгодовые и сезонные колебания поглощения углерода. Глобальное применение DryFlux показывает, что существующие продукты могут недооценивать влияние крупномасштабных климатических структур на межгодовую изменчивость поглощения углерода засушливыми землями. Ожидается, что DryFlux станет улучшенным эталоном для моделей земных систем в засушливых районах и приведёт к более точному учёту ограничения воды в углеродном цикле. 

Ссылка: https://www.nature.com/articles/s43247-021-00308-2

В рамках создания системы мониторинга многолетней мерзлоты в Арктике планируется строительство 140 станций, сообщил министр по развитию Дальнего Востока и Арктики Алексей Чекунков на XI Международном форуме «Арктика: настоящее и будущее».

Чекунков отметил важность «экологического баланса» для развития Арктики. Он сообщил, что «на базе наблюдательной сети Росгидромета создается система мониторинга многолетней мерзлоты». На первом этапе (до 2023 года) планируют построить 30 станций, на втором (в 2024–2025 годах) – еще 110, передает РИА «Новости».

Напомним, президент России Владимир Путин поручил создать систему регулярных обследований зданий и сооружений в северной части страны, где фиксируется таяние вечной мерзлоты. Глава Минприроды Александр Козлов сообщал, что создание системы мониторинга оценивается в 1,7 млрд рублей. Станции будут представлять собой скважины до 30 м глубиной. Приборы для мониторинга будут произведены российскими предприятиями.

Ссылка: https://m.vz.ru/news/2021/12/2/1132246.html