Удивительно, но даже создатели современных систем ИИ не знают, как они работают. Однако в компании Anthropic утверждают, что смогли частично раскрыть «чёрный ящик». Это потенциально поможет предотвратить злонамеренное использование технологий и снизить возможные риски.
Одна из самых странных и пугающих особенностей современных систем ИИ заключается в том, что принципы их работы остаются неясными. Это связано с использованием больших языковых моделей (LLM), таких как ChatGPT, которые обучаются самостоятельно, анализируя огромные объёмы данных и выявляя закономерности в языке. Затем они используют эти знания для прогнозирования следующего слова в тексте.
Однако такой подход затрудняет обратную разработку и исправление ошибок в коде. Например, если пользователь задаст вопрос «Какой город США имеет лучшую кухню?» и получит ответ «Токио», невозможно будет определить причину ошибки или некорректного ответа «Мадрид».
Когда LLM начинают работать неправильно, никто не может объяснить, почему это происходит. В итоге, если мы не знаем, что происходит внутри моделей, как мы сможем понять, можно ли использовать их для создания биологического оружия, распространения политической пропаганды или написания вредоносного кода для кибератак? Если мощные системы перестанут подчиняться или начнут нас обманывать, как мы сможем их остановить, если мы даже не понимаем, что вызывает такое поведение?5-нанометровые чипы Huawei Kirin могут оказаться гораздо более энергоэффективными, чем ожидалось
Техпроцесс SMIC с размером элементов 7 нанометров не демонстрирует впечатляющих результатов из-за устаревшего оборудования, и от перехода на 5 нм также не ожидали значительных улучшений. Однако, согласно сообщениям, ситуация может измениться в лучшую сторону. 26.07.2024 156 0 0Ядерные микрореакторы сулят новые возможности
Компания NANO Nuclear Energy Inc. является пионером в области ядерной энергетики и стремится стать коммерчески диверсифицированной и вертикально интегрированной компанией. 18 июля компания объявила об успешном закрытии дополнительной продажи 135 000 обыкновенных акций по цене $20,00 за акцию. NANO Nuclear работает по четырем ключевым направлениям бизнеса: передовые технологии портативных микрореакторов, производство ядерного топлива, транспортировка ядерного топлива и консалтинговые услуги в атомной отрасли. 26.07.2024 151 0 0Новый гибкий датчик для мониторинга движения спортсменов в режиме реального времени
Исследователи разработали гибкий трибоэлектрический датчик в форме дуги (FA-Sensor), предназначенный для расширенного мониторинга движений в бадминтоне. 26.07.2024 144 0 03D-печать активируемых светом гидрогелевых «мышц»
Международная команда исследователей внедрила золотые наностержни в гидрогели, которые могут быть обработаны с помощью 3D-печати для создания структур, которые сжимаются под воздействием света и снова расширяются при его отсутствии. Поскольку это расширение и сжатие может выполняться многократно, структуры, напечатанные на 3D-принтере, могут служить в качестве приводов с дистанционным управлением. 26.07.2024 144 0 0