Взаимодействие человека с искусственным интеллектом формирует новую систему мышления, новую когнитивную схему, внешнюю по отношению к человеческому разуму, но способную усиливать его когнитивные способности.
Она называется Системой 0, которая функционирует наряду с двумя моделями человеческого мышления: Системой 1, характеризующейся интуитивным, быстрым и автоматическим мышлением, и Системой 2, более аналитическим и рефлексивным типом мышления. Тем не менее, Система 0 вводит дополнительный уровень сложности, радикально изменяя когнитивный ландшафт, в котором мы работаем, и, таким образом, может стать монументальным шагом вперед в эволюции нашей способности думать и принимать решения.
Об этом сообщается в журнале Nature Human Behaviour в статье под названием «Случай взаимодействия человека и искусственного интеллекта как мышления системы 0», написанной группой исследователей. Исследованием руководили Массимо Кириатти из Infrastructure Solutions Group, Lenovo в Милане, профессор Марианна Ганапини с философского факультета Юнион-колледжа, Скенектади, Нью-Йорк, и профессор Энрико Панаи с факультета иностранных языков и естественных наук в кампусе Università Cattolica в Милане.
Новая форма внешнего мышления
Точно так же, как внешний диск позволяет нам хранить данные, которых нет на компьютере, и мы можем работать, подключив наш диск к ПК, где бы мы ни находились, искусственный интеллект, с его возможностями обработки данных, может представлять собой внешнюю цепь для человеческого мозга, способную его улучшить. Отсюда и идея Системы 0, которая, по сути, является формой «внешнего» мышления, опирающегося на возможности ИИ.
Управляя огромными объемами данных, ИИ может обрабатывать информацию и выдвигать предложения или принимать решения на основе сложных алгоритмов. Однако, в отличие от интуитивного или аналитического мышления, Система 0 не придает внутреннего значения информации, которую она обрабатывает. Другими словами, ИИ может выполнять вычисления, делать прогнозы и генерировать ответы, по-настоящему не «понимая» содержание данных, с которыми он работает.
Таким образом, люди должны самостоятельно интерпретировать и придавать смысл результатам, полученным с помощью ИИ. Это похоже на помощника, который эффективно собирает, фильтрует и систематизирует информацию, но при этом требует нашего вмешательства для принятия обоснованных решений. Эта когнитивная поддержка дает ценную информацию, но окончательный контроль всегда должен оставаться в руках человека.
Риски Системы 0: Потеря автономии и слепое доверие
«Риск, — подчеркивают профессора Рива и Убиали, — заключается в том, что приходится слишком полагаться на Систему 0 без применения критического мышления. Если мы пассивно примем решения, предлагаемые искусственным интеллектом, мы можем потерять способность мыслить автономно и разрабатывать инновационные идеи. В мире, который становится все более автоматизированным, крайне важно, чтобы люди продолжали подвергать сомнению и оспаривать результаты, полученные с помощью ИИ», — подчеркивают эксперты.
Кроме того, прозрачность и доверие к системам ИИ представляют собой еще одну серьезную дилемму. Как мы можем быть уверены в том, что эти системы свободны от предвзятости или искажений и что они предоставляют точную и надежную информацию? «Растущая тенденция использования синтетических или искусственно сгенерированных данных может поставить под угрозу наше восприятие реальности и негативно повлиять на процессы принятия решений», — предупреждают профессора.
Они отмечают, что ИИ может даже похитить наши способности к интроспекции, то есть акту размышления над своими мыслями и чувствами — уникальному человеческому процессу. Тем не менее, с развитием искусственного интеллекта может стать возможным полагаться на интеллектуальные системы для анализа нашего поведения и психического состояния. В связи с этим возникает вопрос: в какой степени мы можем по-настоящему понять себя с помощью анализа ИИ? И может ли ИИ воспроизвести сложность субъективного человеческого опыта?
Несмотря на эти вопросы, Система 0 также предлагает огромные возможности, отмечают профессора. Благодаря своей способности быстро и эффективно обрабатывать сложные данные, ИИ может помочь человечеству в решении проблем, которые превосходят наши естественные когнитивные способности. Будь то решение сложных научных проблем, анализ огромных наборов данных или управление сложными социальными системами, ИИ может стать незаменимым союзником.
Авторы исследования предполагают, что для того, чтобы использовать потенциал Системы 0, необходимо срочно разработать этические и ответственные руководящие принципы ее использования. «Прозрачность, подотчетность и цифровая грамотность являются ключевыми элементами, позволяющими людям критически взаимодействовать с ИИ», — предупреждают они. «Обучение общественности тому, как ориентироваться в этой новой когнитивной среде, будет иметь решающее значение для предотвращения рисков чрезмерной зависимости от этих систем».
Они приходят к выводу, что, если Систему 0 не остановить вовремя, она может вмешиваться в человеческое мышление в будущем. «Очень важно, чтобы мы оставались осведомленными и критически относились к тому, как мы его используем; истинный потенциал Системы 0 будет зависеть от нашей способности направить ее в правильном направлении».
Источник: https://techxplore.com/news/2024-10-artificial-intelligence-external-thought-minds.html
Приглашаем принять участие в семинаре АРПЭ "Государственное регулирование рынка электроники и меры поддержки отрасли" 28 ноября в Москве
Семинар будет интересен менеджерам по работе с органами государственной власти и руководителям компаний электронной отрасли. 24.10.2024 533 0 0Китайские учёные разработали прототип литий-серного аккумулятора с беспрецедентно высокой плотностью энергии — 700 Вт·ч/кг
Китайская компания General New Energy (GNE) представила прототип инновационного литий-серного аккумулятора с рекордной плотностью энергии 700 Вт·ч/кг. Это почти в три раза больше, чем у обычных литий-ионных аккумуляторов. Кроме того, литий-серные батареи безопасны и требуют меньше дефицитных материалов. Однако массовое производство таких аккумуляторов пока не налажено. 24.10.2024 502 0 0БРИКС создаст в рамках ООН центр по развитию промышленности
Министры промышленности стран БРИКС обсуждали стандартизацию промышленной продукции и согласовали дальнейшие шаги в этой области. Об этом сообщил первый вице-премьер России Денис Мантуров в интервью «Известиям» 22 октября на полях саммита БРИКС в Казани. 24.10.2024 479 0 0Конференция «Передовые Технологии Автоматизации. ПТА – Новосибирск 2024» состоится 30 октября 2024. Посетителей ждёт насыщенная программа.
14-я специализированная конференция по промышленной автоматизации «Передовые Технологии Автоматизации. ПТА – Новосибирск 2024» состоится 30 октября 2024 года в «Гранд Автограф Новосибирск Отель». 24.10.2024 505 0 0