Искусственный интеллект воюет, следит и дает советы премьер-министрам

Не только после появления ChatGPT мир узнал о наличии искусственного интеллекта: цифровые «мозги» уже давно работают на людей. И тут главное для нас – однажды не проснуться в альтернативной реальности, где все наоборот. Потому что ИИ умнеет с каждой минутой, а вот о человечестве такого сказать, увы, не получается.

Пока искусственный интеллект пишет школьные сочинения и «пикает» наши товары на кассе самообслуживания, можно быть более-менее спокойными. Но на днях в Румынии робот с искусственным интеллектом стал… советником премьер-министра Николае Чуке. Роботу дали имя ION, в его «должностной инструкции» прописали «информирование правительства в режиме реального времени о предложениях, проблемах и пожеланиях жителей Румынии, высказанных в публичном пространстве, например, на правительственном сайте». ION их изучает и предлагает премьеру для размышлений.

И не только в Румынии. В Украине ChatGPT уже начали привлекать к работе чиновников. Так, Министерство цифровой трансформации исследует возможности чатбота, чтобы усовершенствовать государственное управление и развитие цифровой инфраструктуры. Пока, по словам руководителя по развитию электронных услуг ведомства Мстислава Баника, только на базовом уровне - чатбот помогает решать рутинные задачи, способствует эффективному выполнению той или иной работы. К решению сложных задач ChatGPT не привлекают. Пока что..

Сегодня ИИ занимается общественным мнением, помогает чиновникам, а завтра начнет писать законы и управлять страной. Чем не сценарий апокалиптического будущего? KP.UA попыталась разобраться, действительно ли искусственный интеллект начинает завоевывать весь мир?

ИИ атакует и отбирает рабочие места

Если говорить о военных действиях, то тут государство Израиль впереди планеты всей. Уже несколько недель, как Армия обороны Израиля (ЦАХАЛ) внедряет средства искусственного интеллекта как часть своего военного арсенала. В интервью Jerusalem Post командир одного из подразделений ЦАХАЛ рассказал, что армия активно использует ИИ в принятии наступательных решений. Например, чтобы определить, является ли цель военной или гражданской. Кроме того, искусственный интеллект оповещает вооруженные силы, что они находятся под угрозой обстрела. Установлен ИИ и на израильской границе. А о кибератаках израильтян можно написать очень много, скажем лишь, что они и без ИИ неплохо справлялись – что же будет, когда к кибератакам подключится цифровой разум?

Мысленно перенесемся в США, где «искусственный интеллект», можно сказать, зародился и, спасибо Голливуду, мы знаем, чего от него можно ждать. Жаль, что американские бухгалтеры и юристы не уделили особого внимания таким блокбастерам, ведь они – первые в очереди на замену искусственным интеллектом.

Согласно отчету компании Net Voucher Codes, только в одной Калифорнии более 300 тыс. рабочих мест могут быть заменены роботами и еще 12 млн – в зоне высокого риска. Список профессий, в которых человек может уступить место искусственному интеллекту, возглавляют кассиры, представители службы поддержки клиентов, бухгалтеры, технические IT-специалисты, сотрудники отделов кадров, помощники юристов и т.д.

Всего же по Соединенным Штатам насчитывается около 19,5 млн рабочих мест с высоким риском увольнения из-за ИИ. И что самое обидное: все эту информацию собрал тот самый искусственный интеллект. Интересно, реальные ли это цифры или ИИ уже научился манипулировать статистикой?

Китай наблюдает за миром

Теперь о Китае. Писатель Пол Шарре в своей новой книге «Четыре поля битвы: сила в эпоху искусственного интеллекта» пишет: «Китай является крупным лидером в области искусственного интеллекта… Китайские технологии наблюдения и охраны правопорядка в настоящее время используются как минимум в 80 странах мира и на всех континентах, кроме Австралии и Антарктиды… Набор технологий искусственного интеллекта – это «новый набор инструментов автократа», которые расширяют возможности авторитарных режимов и ставят под угрозу свободу». 

Китайский искусственный интеллект в основном сосредоточен на распознавании лиц и передаче информации в местные полицию и разведку. Видеокамеры с ИИ, купленные у Китая Сингапуром, установлены на фонарных столбах, искусственный интеллект подсчитывает и анализирует людей в толпе.

А в Анголе китайская компания по анализу данных Percent Corporation создала для правительства интеллектуальную систему анализа и визуализации данных, которая включает биометрическую информацию: изображения лиц, отпечатки пальцев, записи о рождении, образовании и браке. Прошел человек мимо камеры, и у наблюдателей полное досье: кто таков, сколько лет, где учился, сколько раз женился…

Естественно, искусственный интеллект подсказывает, что все эти технологии призваны обеспечить безопасность граждан, снизить уровень преступности, предотвращать кризисы или оперативно на них реагировать. Но… Но нам ли не знать истинное значение фразы «Большой Брат следит за тобой»?

Известная китайская компания Huawei обучила свои системы видеонаблюдения с искусственным интеллектом отслеживать людей и автомобили, обнаруживать «ненормальное поведение» (бесцельное шатание по улице, к примеру), автоматически определять размер скопления людей и отправлять автоматические оповещения властям. ​И именно Huawei, возглавляющая список других китайских компаний, считается самым главным поставщиком систем наблюдения с ИИ по миру. Китайские камеры следят примерно за 1 млрд человек в 100 странах мира, не считая граждан Поднебесной.

Эх, Нью-Йорк, Нью-Йорк

Этот мегаполис может похвастаться тем, что внедрил искусственный интеллект во многие сферы городского управления… и именно поэтому сейчас там идут разбирательства и летят головы управленцев.

В начале все было неплохо: ИИ поручили сортировку огромных объемов данных. Действительно, в этом всегда есть нужда у госучреждений. В Нью-Йорке искусственный интеллект начал работу в четырех городских управлениях - Управлении по делам детей, в Департаменте полиции Нью-Йорка, в Департаменте образования и в Департаменте зданий. 

Поскольку никто не знал, как учитывать данные, собранные искусственным интеллектом, и как вообще управлять цифровыми мозгами, то собранную информацию просто брали в работу, особо не проверяя. Компьютер же не ошибается… Пока не грянул скандал: исполнительный директор проекта по надзору за технологиями наблюдения Альберт Фокс Кан после проверки заметил, что ИИ продолжает вполне человеческую политику, а именно – «дискриминирует цветные сообщества, подвергая жителей Нью-Йорка повышенному риску неправомерного ареста и лишения родительских прав».

В полиции, где искусственный интеллект все так же продолжал распознавать лица, выяснилось, что точность распознавания не так уж и высока (особенно это касалось темнокожего населения). В Департаменте зданий инспекторы заявили, что понятия не имеют, как использовать ИИ в своей работе. А сотрудники Департамента образования нагрешили тем, что не известили об использовании программы Teach to One 360, использующей искусственный интеллект для создания индивидуальных планов уроков для учащихся. То есть работал ИИ – а зарплату получил ЧИ (человеческий интеллект).

Чиновники встали грудью на защиту прав ИИ и после долгих совещаний решили назначить в муниципалитет директора по искусственному интеллекту и машинному обучению. Он-то и должен объяснить ИИ, что дискриминировать по цвету кожи нехорошо, в учебные планы надо указывать авторство, а жители Нью-Йорка все-таки чем-то да отличаются друг от друга. Как и все другие живые существа.

«ИИ может помочь оптимизировать бюджет»

А что сам ИИ думает о своей работе в государственных структурах? Мы задали этот вопрос чат-боту ChatGPT. Искусственный интеллект заверил нас в своей необычайной полезности и привел несколько примеров:

«ИИ может быть использован для автоматизации обработки больших объемов данных, так как данные о налогах, здравоохранении, социальном обеспечении и т. д. Государственные структуры могут использовать ИИ для прогнозирования трафика на дорогах, оценки рисков и принятия мер по предотвращению ДТП…

ИИ может помочь оптимизировать бюджет и выявлять области, где можно сэкономить средства. Например, ИИ может быть использован для анализа структуры расходов и определения областей, в которых можно сократить расходы… ИИ может помочь принимать более обоснованные и точные решения, основанные на анализе данных. Например, для анализа данных по безработице… ИИ может использоваться для мониторинга энергопотребления и предоставления рекомендаций по оптимизации потребления энергии… Однако необходимо учитывать риски и вызовы, связанные с использованием ИИ в государственных структурах, такие как защита персональных данных, соответствие нормам безопасности и т.д.»

Похоже, ИИ решил искоренить коррупцию и предать забвению слово «откат»? Что ж, выдыхаем – война машин отменяется! Ведь ни одна стран мира не допустит такого посягательства на распил бюджета.

Вместо послесловия

Если серьезно, то все, кто имеет отношение к появлению и внедрению искусственного интеллекта в повседневную жизнь, утверждают: предстоит принять сотни законов, регламентирующих работу искусственного интеллекта без нарушений прав человека. Впрочем, зачем людям напрягаться – ИИ изучит все существующие законы и сам прекрасно напишет новые. То ли для себя, то ли уже для нас…