b_n_e (b_n_e) wrote,
b_n_e
b_n_e

Category:

Риски и этические проблемы при разработке ИИ

Дарон Асемоглу выделяет три основных группы рисков.

Первая касается получения и контроля над информацией. Концентрация информации о пользователях и обработка этих данных ИИ повышает риски того, что корпорации будут забирать большую часть выгоды потребителей (речь идет о том, что повышение полноты информации о пользователе позволяет повышать цену для тех потребителей, которые готовы платить больше, тогда как ранее корпорации были вынуждены держать более низкую среднюю цену, чтобы привлечь больше покупателей).
Конкуренция может стать менее справедливой — опять же из-за того, что у одной компании будут более полные данные, чем у другой. Более того, развитие ИИ потенциально дает возможность манипулировать поведением граждан или потребителей, используя их уязвимости (то есть ИИ будет знать больше информации о пользователе, чем он сам). Эти проблемы частично решаются установлением справедливого вознаграждения за данные, учитывающего их социальную ценность, полагает автор статьи.

Вторая группа рисков касается влияния новых технологий на рынок труда: когда автоматизация лишь замещает труд, а не ведет к увеличению производительности, общее ее влияние на экономику будет негативным из-за снижения зарплат и доли занятых. Поэтому автоматизация может быть невыгодна с точки зрения общего благосостояния, поясняет господин Асемоглу. Помимо этого, существует представление, что ИИ позволит избавить сотрудников от рутинных задач, дав больше возможностей для решения креативных,— но использование этих технологий, наоборот, может снизить способность людей принимать самостоятельные решения, так как все большее их количество будет передаваться алгоритмам. Мониторинг ИИ эффективности сотрудников также может выглядеть крайне привлекательно для работодателей — но может вести к тому же снижению выгоды для работников, что и в случае с покупателями, и в итоге — к негативным социальным последствиям.

ИИ назвали третьей революцией в военном деле
Третья группа рисков касается влияния ИИ на коммуникацию и демократические процессы. В этот блок автор включает негативные последствия от распространения несуществующей или некорректной информации, что усиливается эффектом «эхо-камеры» — когда пользователи соцсетей получают только ту информацию, которая подтверждает их собственную позицию (это ведет к поляризации мнений), а также риски установления тотального контроля над обществом — «большого брата»: ИИ повышает способность государств выискивать и блокировать диссидентов. Процесс автоматизации сам по себе также несет риски снижения эффективности демократических процессов из-за снижения роли труда и его потенциально более легкого замещения.

Татьяна Едовина
https://www.kommersant.ru/doc/4987438
Tags: Этические проблемы применения высоких те
Subscribe

  • Немецкие военнопленные в СССР

    К 1946 году на советской территории существовало около 240 многонациональных ГУЛАГов, в которых содержались миллионы военнопленных. В 1944 году…

  • Материализация грез

    Вот оно и нарисовалось Жар-птица - сдача крови на антитела Золотая рыбка - посещение АШАН Морской конек - вояж в налоговую по поводу штрафа Как-то…

  • Странные ассоциации и схождения

    Солнце Феникс Жар-птица Золотая рыбка В Китае и Тибете наверное золотисто-красный дракон Змей-Горыныч Наверное яблоки Янтарь Жидкая, бурлящая лава…

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 2 comments