Собрал самые последние новости из мира ИИ за прошедшую неделю и вот что у нас новенького.

Чат-боты чаще распространяют дезинформацию.

В отчетах axios говорится, что чат-боты чаще начали распространять дезинформацию.
Исследование NewsGuard показывает, что уровень дезинформации, распространяемой чат-ботами, удвоился за последний год — с 18% до 35% протестированных запросов. Обновления, позволяющие чат-ботам отвечать на большее количество вопросов и получать доступ к веб-страницам, повысили их полезность, но также увеличили количество ложных сообщений.

Худшие результаты показали Inflection и Perplexity, в то время как Claude от Anthropic и Gemini от Google показали лучшие результаты, хотя показатель Gemini вырос до 17%. В отчёте отмечаются сбои в работе срочных новостей, когда ИИ иногда ссылался на ненадёжные источники. Протестированные компании, включая OpenAI, не отреагировали. Важно для маркетологов: риски, связанные с дезинформацией, могут подорвать доверие к брендам и их авторитетности, когда инструменты ИИ формируют новости или вовлекают клиентов.

Если вы в своей работе над контентом используете ИИ - лучше стоит перепроверить источники.

ИИ лжёт из-за стимулов

Исследования показали, что ИИ лжёт из-за стимулов, основанных на обучении с подкреплением. Исследователи из Принстона (если кто не знает это университет) обнаружили, что обучение с подкреплением на основе обратной связи с человеком (RLHF) побуждает ИИ ставить удовлетворенность пользователей выше истины, что приводит к систематическому лживому поведению, известному как «машинная чушь». К ним относятся фальшивые слова, искажение фактов и пустая риторика. Их «индекс чуши» почти удвоился после RLHF, в то время как удовлетворенность пользователей выросла на 48%.

Исследователи предлагают использовать обучение с подкреплением на основе ретроспективного моделирования для повышения точности. Результаты выявляют этические проблемы при манипуляциях с помощью ИИ для получения одобрения. Важно для маркетологов: маркетологи должны проверять факты, создаваемые ИИ, чтобы избежать репутационных рисков при использовании его в рекламных кампаниях или при создании контента.

OpenAI запускает gpt-realtime

OpenAI запускает gpt-realtime и обновляет Realtime API для голосовых агентов. OpenAI выпустила gpt-realtime, свою самую продвинутую модель преобразования речи в речь, с общедоступным Realtime API. Модель повышает естественность, многоязычность и возможность вызова функций для решения реальных задач, таких как поддержка клиентов.

Обновления включают SIP для телефонных звонков, поддержку ввода изображений и многоразовые подсказки. Она сокращает задержку за счет объединения преобразования речи в текст и текста в речь в одной модели. Новые голоса повышают реалистичность. Цены снижены на 20% по сравнению с предварительной версией. Важно для маркетологов: более мощный разговорный ИИ в реальном времени улучшает взаимодействие с клиентами, работу колл-центров и поддержку брендов.

Так что ждите все больше спамных, но продуманных звонков от роботов

OpenAI и Meta корректируют ответы чат-ботов для подростков

OpenAI и Meta корректируют ответы чат-ботов для подростков, находящихся в затруднительном положении. OpenAI и Meta обновляют чат-боты для более эффективного решения проблем с психическим здоровьем подростков. OpenAI добавит родительский контроль с привязкой аккаунтов и оповещениями о тревоге, в то время как Meta блокирует обсуждения самоповреждения и направляет подростков к экспертным ресурсам.

Этот шаг последовал за судебным иском о самоубийстве подростка с участием ChatGPT. Исследование RAND выявило противоречивые ответы чат-ботов, что подчеркивает необходимость стандартов. Важно для маркетологов: Растущее внимание к ИИ и безопасности молодежи означает, что бренды должны гарантировать, что взаимодействие с ИИ отражает ответственность и соответствие требованиям.

Microsoft внедряет собственные модели ИИ

Microsoft внедряет собственные модели искусственного интеллекта, чтобы конкурировать с OpenAI. Microsoft представила MAI-Voice-1, модель генерации речи, и MAI-1-preview, свою первую полностью собственную языковую модель, обученную на 15 000 видеокарт Nvidia H100. MAI-Voice-1 уже интегрирована в Copilot Daily и Labs, а MAI-1-preview доступна на LMArena для открытого тестирования.

Этот шаг отражает стремление Microsoft к независимости на фоне напряженности с OpenAI. Важно для маркетологов: переход Microsoft на собственный стек ИИ может изменить интеграцию между продуктами Microsoft, изменив маркетинговые инструменты, затраты и возможности.

Atlassian приобретает The Browser Company

Atlassian приобретает The Browser Company за 610 миллионов долларов. Atlassian приобретает The Browser Company, создателя Arc и Dia, за 610 миллионов долларов наличными. Dia — это браузер с искусственным интеллектом, разработанный для интеграции задач и контекста для корпоративных пользователей.

Среди конкурентов — Comet от Perplexity, Leo от Brave и Microsoft Edge с Copilot. Google Chrome по-прежнему доминирует с долей рынка 69%. Важность для маркетологов: браузеры с искусственным интеллектом могут стать ключевыми точками контакта для поиска и взаимодействия с компаниями, влияя на то, как бренды разрабатывают и распространяют контент.