В недавнем исследовании исследователи искусственного интеллекта из Института Интернета Оксфордского университета выпустили предупреждение об угрозе, которую представляют большие языковые модели (LLM) для научной истины. В статье, опубликованной в журнале Nature Human Behavior, такими исследователями, как Брент Миттельштадт, Крис Рассел и Сандра Вахтер, они указывают, что LLM, основанные на архитектуре GPT-3.5, не являются абсолютным источником истины и могут вызывать то, что они называют «галлюцинациями», то есть нереальными реакциями. Исследователи призывают к изменению способа использования LLM, предлагая их в качестве «трансляторов с нулевым выстрелом», чтобы обеспечить фактическую точность вывода. Исследования показывают, что доверие к магистрам права как к надежному источнику информации может привести к размыванию научной истины.

22 ноября Inflection AI официально объявила о выпуске модели Inflection-2, заявив, что модель является второй в мире моделью большого языка (LLM), уступая только GPT-4 от OpenAI. Inflection AI заявляет, что Inflection-2 обучен на 5000 графических процессорах NVIDIA H100 с ~10²⁵ FLOP для FP8, что ставит его в ту же категорию обучающих вычислений, что и флагманская модель Google PaLM 2 Large, и он превосходит PaLM 2 в большинстве тестов ИИ, таких как MMLU, TriviaQA, HellaSwag и GSM8k. Ранее, в июне, сообщалось, что ИИ-стартап Inflection AI привлек $1,3 млрд, среди инвесторов были Билл Гейтс и Nvidia.

22 ноября Inflection AI объявила о выпуске Inflection-2, которая, как официально утверждается, уступает только GPT-4 от OpenAI и является второй в мире моделью большого языка (LLM) второго поколения. Inflection AI означает, что Inflection-2 обучается на 5000 графических процессорах NVIDIA H100 с 8 обучением смешанной точности на 8 графических процессорах с FLOP ~10²⁵. Это ставит его в ту же категорию обучающих вычислений, что и флагманскую модель Google PaLM 2 Large, и он превосходит PaLM 2 в большинстве тестов ИИ, таких как MMLU, TriviaQA, HellaSwag и GSM8k. Ранее, в июне, сообщалось, что ИИ-стартап Inflection AI привлек $1,3 млрд, среди инвесторов были Билл Гейтс и Nvidia.

Чарльз Хоскинсон, основатель Cardano, направил приглашение Сэму Альтману, недавно уволенному основателю OpenAI (ChatGPT), о сотрудничестве над созданием децентрализованной большой языковой модели (LLM) на Cardano.

17 ноября Dropbox объявил о партнерстве с Nvidia для создания пользовательских моделей с использованием NVIDIA AI Foundry и улучшения работы с знаниями на основе искусственного интеллекта с помощью универсальных инструментов поиска Dropbox Dash и Dropbox AI. Кроме того. Dropbox также может использовать корпоративное программное обеспечение NVIDIA для искусственного интеллекта, Triton Inference Server и NVIDIA TensorRT-LLM™ для повышения производительности инференса производственного ИИ.

Согласно отчету AI New Intelligence от 14 ноября, генеральный директор OpenAI Сэм Альтман недавно раскрыл больше следующих шагов OpenAI в интервью FT. Альтман сказал, что компания разрабатывает следующее поколение модели искусственного интеллекта GPT-5. Но он не взял на себя обязательство обнародовать график. Альтман говорит, что для обучения потребуется больше данных, которые будут поступать из общедоступных наборов данных в Интернете, а также из собственных данных компании. Недавно OpenAI выступила с призывом к крупномасштабным наборам данных, особенно к тем, которые «сегодня не являются общедоступными и легко доступными в Интернете», особенно к длинным текстам или разговорам в любом формате. Альтман также сообщил, что для обучения своих моделей OpenAI, как и большинство других крупных AI-компаний, использует передовые чипы Nvidia H100. Он упомянул, что в этом году возникла «серьезная напряженность» из-за нехватки чипов от Nvidia. Однако, поскольку другие компании, такие как Google, Microsoft, AMD и Intel, готовятся выпустить конкурирующие чипы искусственного интеллекта, зависимость от Nvidia может продлиться недолго. Кроме того, несмотря на потребительский успех OpenAI, Альтман сказал, что компания стремится добиться прогресса в создании общего искусственного интеллекта. Он утверждает, что большие языковые модели (LLM), модели, лежащие в основе ChatGPT, являются «одной из основных частей построения AGI, но над ней есть много других частей». Он также подчеркнул важность языка для сжатия информации, фактор, который, по его мнению, упускают из виду такие компании, как Google DeepMind. Ранее, в сентябре, сообщалось, что OpenAI, сооснователь DeepMind, тайно обучает GPT-5.

Согласно сообщению Цзинь Ши от 13 ноября, Hongbo Pharmaceutical сообщила на интерактивной платформе, что большая языковая модель компании (LLM) завершила локальное развертывание и проводит последующее обучение данных и функциональное проектирование, как и планировалось, и, как ожидается, запустит демонстрационную функцию к концу года.

Mozilla, разработчик Firefox, объявила о запуске своего первого чат-бота с искусственным интеллектом с большой языковой моделью (LLM), Fakespot Chat, который помогает пользователям выявлять поддельные и вводящие в заблуждение отзывы о продуктах при совершении покупок в Интернете, как сообщает The Decoder 11 ноября. Сообщается, что Fakespot был приобретен Mozilla в начале этого года и использует искусственный интеллект и машинное обучение для классификации отзывов о продуктах и предоставления пользователям достоверной информации. Чат-бот доступен через Fakespot Analyzer или расширение для браузера на сайте Amazon.

На конференции TechEd в Бангалоре, Индия, немецкий софтверный гигант SAP представил ряд инструментов и функций искусственного интеллекта, предназначенных для повышения производительности разработчиков и предоставления им возможности создавать пользовательские приложения на основе искусственного интеллекта, сообщает VentureBeat 3 ноября. В частности, компания выпустила профессиональные инструменты программирования на основе искусственного интеллекта и дебютировала с возможностями векторных баз данных в облаке HANA, а также с комплексным базовым центром ИИ, который помогает командам легко создавать приложения LLM для различных бизнес-сценариев использования. Джей Джи Чирапурат, директор по решениям и маркетингу SAP, сказал в интервью, что компания планирует развернуть свою собственную базовую модель, поскольку компании в разных отраслях продолжают требовать приложений на основе генеративного ИИ.

Большие языковые модели (LLM) не дают ответы мгновенно, поэтому существует задержка между вводом вопроса и получением ответа, как сообщил IT House 29 октября. Bing Chat предоставляет ответы, показывая подмножество ответов строка за строкой до того, как ответ будет полностью сгенерирован, в то время как Google Bard отображает все ответы сразу после того, как ответ полностью сгенерирован, но теперь Google Bard уже предлагает ответ, похожий на Bing Chat. Google предоставила Барду возможность «отвечать в режиме реального времени», чтобы ответ ощущался быстрее. Когда эта опция включена, ответ будет отображаться в режиме реального времени во время его выполнения, а текст будет отображаться построчно.

По словам Синь Чжиюаня, Тао Чжэсюань, математический бог, который недавно увлекся использованием GPT-4 и Copilot для проведения исследований, обнаружил скрытую ошибку в своей статье с помощью искусственного интеллекта. Некоторые поклонники-энтузиасты математики воскликнули в этом посте: «Это потрясающе, и здорово видеть распространение помощников с искусственным интеллектом, закладывающих более прочную основу для будущих математических исследований». Тао Чжэсюань сказал: «Это вполне возможно. Возможно, в ближайшем будущем мы сможем создать слой ИИ поверх Lean. Описывая ИИ этапы доказательства, ИИ может использовать Lean для выполнения доказательства, вызывая при этом пакет компьютерной алгебры. В июне этого года Тао Чжэсюань предсказал в блоге об опыте испытаний GPT-4, что в 2026 году ИИ будет объединен с инструментами поиска и символьной математики, чтобы стать надежным соавтором в математических исследованиях. В течение этого периода были люди, которые доказали это, такие как ученые из Калифорнийского технологического института, NVIDIA, MIT и других учреждений, которые создали доказательство теорем на основе LLM с открытым исходным кодом.

Устройство Amazon Echo теперь позволит детям вести интерактивные беседы с Alexa на основе искусственного интеллекта с помощью новой функции под названием «Explore with Alexa», сообщил TechCrunch 25 октября. Подписки на контент Amazon Kids+, впервые анонсированные в сентябре, позволяют детям общаться с Alexa, основанной на генеративном искусственном интеллекте, но защищенным образом, чтобы обеспечить безопасность и удобство использования. В отличие от традиционных разговоров с Alexa, работа с искусственным интеллектом — это улица с двусторонним движением. То есть не только дети задают вопросы Alexa и получают ответы. Арджун Венкатасвами, старший менеджер по продуктам в Alexa Kids, сказал, что дети не имеют мгновенного доступа к генеративному искусственному интеллекту при общении с Alexa, контент предварительно проверен и поступает из небольшого набора данных, который содержит только факты и источники о животных. Кроме того, Amazon также готовится к запуску в конце этого года Alexa для взрослых на основе искусственного интеллекта «Let'_s Chat», который основан на том же стеке LLM.

Согласно отчету Pinplay от 25 октября, страница Arxiv показывает, что Microsoft и Университет Нотр-Дам выпустили метод настройки инструкций для больших языковых моделей Auto-Instruct. Auto-Instruc использует генеративную мощь LLM для создания нескольких инструкций-кандидатов для данной задачи, а затем ранжирует их с помощью модели оценки, обученной на различных 575 существующих задачах NLP. В экспериментах по 118 задачам, не относящимся к предметной области, Auto-Instruct превзошел базовый уровень инструкций, написанных человеком, и существующих инструкций, сгенерированных LLM.

Стартап искусственного интеллекта Giga ML привлек $3,6 млн посевного финансирования во главе с венчурной фирмой Nexus Ventures Partners и бизнес-ангелами, такими как Y Combinator и Liquid 2 Venture, 8vdx, а также Гарри Тан, президент и генеральный директор Y Combinator, сообщил 23 октября. Сообщается, что компания Giga ML была основана в 2023 году для предоставления предприятиям настраиваемых крупномасштабных языковых моделей (LLM). Компания заявляет, что ее модель X1 Large 32k более адаптируема и более адаптируема, чем модель Ilama2 70B 4k от LLM с открытым исходным кодом.

Согласно новостям IT House от 18 октября, исследовательская группа Microsoft недавно опубликовала статью, в которой подробно изучает «надежность» и потенциальную токсичность больших языковых моделей (LLM), уделяя особое внимание GPT-4 от OpenAI и его предшественнику GPT-3.5. По словам исследовательской группы, GPT-4, хотя и более надежен, чем GPT-3.5 в стандартных бенчмарках, уязвим к запросам «джейлбрейка» (обхода мер безопасности модели). GPT-4 может генерировать вредоносный контент на основе этих запросов «джейлбрейка».

Новости PANews 17 октября, по данным Techcrunch, исследовательская группа Microsoft обнаружила в новом исследовании, что GPT-4 может быть более склонен следовать подсказке «jailbreak», обходя меры безопасности, встроенные в модель, поэтому в некоторых случаях GPT-4 с большей вероятностью будет выдавать токсичный и предвзятый текст, чем другие LLM. Другими словами, благие «намерения» GPT-4 и улучшенное понимание могут сбить GPT-4 с пути, если он попадет не в те руки. «Мы обнаружили, что, хотя GPT-4 в целом более надежен, чем GPT-3.5 в стандартных тестах, GPT-4 более уязвим для атак через системы джейлбрейка или пользовательских подсказок, которые злонамеренно разработаны для обхода мер безопасности LLM, возможно, потому, что GPT-4 более точно следует (вводящим в заблуждение) инструкциям», — говорится в исследовании. Было подтверждено, что выявленные потенциальные уязвимости не влияют на текущие услуги, ориентированные на клиентов. «Кроме того, исследовательская группа поделилась моим исследованием с разработчиком GPT OpenAI, который отметил потенциальные уязвимости в описании соответствующей модели.

Недавно Harman, дочерняя компания Samsung Electronics, вышла на растущий рынок генеративного ИИ в медицинской сфере, о чем 17 октября сообщил IT House. Харман сказал, что они запустили решение для генеративного искусственного интеллекта под названием HealthGPT, которое позволяет врачам, исследователям и учреждениям оказывать расширенный уход за пациентами, проводить медицинские исследования и принимать обоснованные решения. Компания заявляет, что HealthGPT построен на принципах ответственного ИИ, прошел обширное тестирование, использует автоматизированную систему тестирования LLM (Personal Language Model) и проверен медицинскими экспертами. Кроме того, некоторые компании в Корее также активно занимаются разработкой генеративного ИИ для медицинской сферы. Например, компания Kakao Brain разработала САПР с искусственным интеллектом, которая использует большие модели и генеративные модели для создания предварительных отчетов о показаниях для рентгенологов. Naver также ранее представила различные технологии искусственного интеллекта специально для медицинской сферы, в том числе «Smart Survey», которая автоматически преобразует медицинскую информацию в медицинские термины, «VOICE EMR» для создания медицинских записей с помощью распознавания голоса, «Patient Summary» для запроса и анализа медицинских записей и результатов медицинских обследований, а также «Clova CareCall» для заботы о пользователях с помощью сервисов вызова на основе искусственного интеллекта.

Как сообщает MarkTechPost 16 октября, NVIDIA Research Institute запустил технологию SteerLM. Технология обеспечивает новый, ориентированный на пользователя подход к адаптации ответов к большим языковым моделям, позволяя пользователям определять ключевые атрибуты, которые управляют поведением модели, что дает им больший контроль над выходными данными. Сообщается, что SteerLM 43B превосходит существующие модели RLHF, такие как ChatGPT-3.5 и Llama 30B RLHF, в бенчмарке Vicuna.

Согласно отчету Pinplay от 16 октября, страница Arxiv показывает, что исследователи из Калифорнийского университета в Беркли запустили большую систему языковых моделей под названием MemGPT. Исследовательская группа предложила методику управления виртуальным контекстом путем заимствования из иерархической системы памяти в традиционных операционных системах, которая обеспечивает появление больших ресурсов памяти за счет перемещения данных между быстрой и медленной памятью. Системы MemGPT интеллектуально управляют различными иерархиями памяти, чтобы эффективно предоставлять расширенный контекст в ограниченном контекстном окне LLM и использовать прерывания для управления потоком управления между собой и пользователями. Эксперименты показывают, что MemGPT показывает хорошую производительность в многосеансовых чатах и экспериментах по анализу документов, эффективно преодолевая ограничения производительности существующих методов в ограниченных контекстах.

Южнокорейский поставщик услуг ИКТ LG CNS в четверг запустил платформу Data Analytics &_ AI Generative AI (DAP GenAI), платформу генеративного искусственного интеллекта (ИИ) для коммерческого использования, которая направлена на предоставление пользователям рекомендаций по продуктам, сводок документов и отчетов на основе данных, сообщает Webmaster Home. Настройка платформы DAP GenAI начинается с выбора большой языковой модели (LLM), и пользователи могут выбрать большую языковую модель (LLM), такую как ChatGPT от OpenAI, PaLM2 от Google и т. д., а также поддерживает создание сервисов искусственного интеллекта для рекомендаций по продуктам. Платформа также предлагает возможности искусственного интеллекта и LLMOps для предоставления точных ответов и оптимизации объема LLM для конкретных предприятий.

Компания Golden Finance сообщила, что суперприложение Web3 ParaX опубликовало твит, представляющий ParaX AI. В качестве помощника Web3 на основе искусственного интеллекта пользователи могут использовать эту технологию для перевода своих конкретных намерений в исполняемые запросы, тем самым запуская соответствующие действия через платформу ParaX, скрывая при этом технические детали и снижая барьер входа для пользователей в Web3. ParaX AI — это междоменная крупномасштабная языковая модель на основе намерений (CDI-LLM), которая обучается на большом количестве моделей данных, связанных с DeFi, чтобы понимать намерения пользователей транзакций в различных сценариях. Эти модели данных включают в себя коды контрактов, основные документы соглашений и т. д., предназначенные для понимания намерений пользователя с помощью естественного языка, перевода их в желаемые цели и ограничения, а затем генерации соответствующей последовательности транзакций. Затем эти транзакции выполняются на многоцепочечном контрактном счете ParaX, что позволяет использовать торговую модель в различных сценариях применения.

По сообщению PRNewswire, 9 октября League, ведущая платформа взаимодействия с потребителями в сфере здравоохранения в США, объявила, что будет использовать технологию генеративного искусственного интеллекта Google Cloud для достижения более глубокой и точной крупномасштабной персонализации потребительского опыта. В долгосрочной перспективе League также рассмотрит возможность использования медицинской модели большого языка (LLM) Google Cloud Med-PaLM 2.

Microsoft планирует представить первый чип компании, предназначенный для искусственного интеллекта, на своей ежегодной конференции разработчиков в следующем месяце, сообщил источник, знакомый с ситуацией, со ссылкой на The Information. Чип Microsoft предназначен для серверов центров обработки данных, которые обучают и запускают большие языковые модели (LLM). Серверы центров обработки данных Microsoft в настоящее время используют графические процессоры Nvidia для обеспечения продвинутого LLM для облачных клиентов, включая OpenAI и Intuit, а также для поддержки возможностей искусственного интеллекта в приложениях Microsoft для повышения производительности.