OpenAI открыла опциональные текстовые водяные знаки для API
Клиенты API OpenAI по всему миру теперь могут включать водяные знаки textGrain для текста отдельных моделей. По умолчанию функция выключена. В ближайшие недели компания планирует добавить невидимую маркировку в подходящие текстовые ответы ChatGPT и Codex в ЕС. Заявки на доступ к детектору уже принимаются, но на первом этапе его предоставят лишь одобренным исследователям и профильным организациям.
Ключевые факты
textGrain добавляет невидимый статистический сигнал в выбор слов модели; детектор OpenAI ищет этот сигнал в тексте.
По данным OpenAI, при целевой доле ложных срабатываний 1% детектор обнаружил маркировку примерно в 80% фрагментов на 200 токенов и в 95% фрагментов на 400 токенов в проверке текстов на темы вроде психологии. Для математики результаты были существенно ниже.
OpenAI сообщает, что в отдельной проверке фрагментов на 400 токенов замена 10% слов синонимами снизила обнаружение примерно с 92% до 66%, а замена 25% слов — до 17%.
Объективно о важном
Организации могут по своему выбору добавлять сигнал происхождения к текстам, созданным через подходящие модели API. Он может быть полезен в процедурах прозрачности, но не показывает, сколько в тексте работы человека, и не устанавливает авторство, законность использования или достоверность. Если детектор не нашёл знак, это тоже не доказывает, что текст написал человек.
Бизнес-процессы
Создание текстов через API — В сценариях, где важно обозначать участие ИИ, можно включать маркировку ответов подходящих моделей.
Проверка происхождения контента — Результат детектора может стать одним из сигналов для специалиста, но не самостоятельным доказательством происхождения текста.
Возможности автоматизации
Генерация черновиков, описаний и ответов через API: Включать textGrain для поддерживаемых моделей и сохранять в рабочей системе сведения о том, применялась ли маркировка к результату. Условия: Маркировка доступна только для отдельных моделей API и выключена по умолчанию.; Ведение записи о маркировке — возможное решение организации, а не заявленная функция textGrain.; Маркировка не заменяет необходимые правила раскрытия информации и проверку человеком.
Проверка спорных текстовых материалов: При наличии доступа использовать детектор как дополнительный сигнал в процедуре проверки. Условия: Первоначальный доступ по заявке ограничен одобренными исследователями и профильными организациями.; Короткий, отредактированный или переведённый текст может не дать надёжного результата.
Влияние на ручную работу
Маркировка может помочь при первичной проверке происхождения. Толковать результат детектора и принимать решения по контенту всё равно придётся специалистам; сокращение трудозатрат не показано.
Ограничения и риски
Детектор может ошибочно сообщить о знаке или пропустить существующий знак.
Редактирование и ограниченный выбор слов в тексте затрудняют обнаружение.
Маркировка ChatGPT и Codex пока лишь запланирована для подходящих текстовых ответов в ЕС; это не глобальная функция по умолчанию.
Обнаруженный знак не устанавливает личность пользователя, его ответственность или точность текста.
OpenAI представила визуальный формат рекламы в ChatGPT
OpenAI представила визуальную рекламу для ChatGPT. Позднее в октябре компания намерена начать её тестирование в США с первой группой рекламодателей во время генерации изображений. Объявления будут явно помечены и отделены от создаваемого изображения. OpenAI также расширила инструменты и партнёрства для передачи данных о конверсиях, атрибуции и оценки рекламы.
Ключевые факты
По заявлению OpenAI, реклама не влияет на ответы ChatGPT; компания также заявляет, что разговоры пользователей остаются приватными.
OpenAI назвала интеграции с Hightouch, Tealium и LiveRamp для передачи данных о конверсиях, а также партнёров по атрибуции, включая AppsFlyer, Adjust, Branch, Singular и Kochava.
По сообщению OpenAI, компания вместе с Haus, Measured и WorkMagic изучает географические эксперименты для оценки дополнительного эффекта рекламы. Эта работа находится на ранней стадии.
Объективно о важном
Рекламные команды получают дополнительные способы связывать ChatGPT Ads с действующими системами измерения. Результативность визуального формата пока нельзя оценить по его запуску: тест ещё не начался. OpenAI также разрабатывает пилоты с DoubleVerify и Integral Ad Science для независимой оценки того, как применяются правила выбора подходящих рекламных контекстов, без доступа партнёров к личным разговорам пользователей.
Бизнес-процессы
Измерение эффективности рекламы — Поддерживаемые интеграции позволяют передавать данные о конверсиях из существующих систем и сопоставлять их с рекламными отчётами.
Контроль размещения рекламы — OpenAI описывает правила исключения неподходящих контекстов. Функция Negative Phrases для требований конкретного бренда доступна только подходящим рекламодателям.
Возможности автоматизации
Передача конверсий для рекламной аналитики: Настроить передачу данных о конверсиях из действующих систем в ChatGPT Ads через поддерживаемую интеграцию. Условия: Нужна подходящая интеграция или партнёрское решение.; Следует проверить качество данных, применимые правила согласия и внутренние требования.
Тестирование визуальной рекламы в ChatGPT: При допуске к тесту оценить новый формат отдельно от уже действующих кампаний. Условия: Начало теста заявлено на более поздний срок в октябре, первоначально — в США с ограниченной группой рекламодателей.; Результаты отдельных ранних кампаний нельзя переносить на другие без собственной проверки.
Влияние на ручную работу
Интеграции могут сократить ручной перенос данных о конверсиях. Настройка измерения, оценка дополнительного эффекта рекламы и проверка уместности размещения всё равно требуют работы специалистов; экономия времени не измерена.
Ограничения и риски
Визуальный формат ещё не проходит объявленный тест и не представлен как широко доступный.
Работа над измерением дополнительного эффекта рекламы находится на ранней стадии.
Опубликованные показатели отдельных партнёров нельзя считать прогнозом для других кампаний.
Negative Phrases доступны лишь подходящим рекламодателям; независимая оценка рекламных контекстов пока разрабатывается в рамках пилотов.
Google расширила обучение ИИ для педагогов Великобритании и Ирландии
Google расширила бесплатную программу Google AI Educator Series на 650 000 педагогов Великобритании и Ирландии. Занятия проводят педагоги в виртуальном и очном формате; за завершение модулей предусмотрены микросертификаты и значки. Google также сообщила о партнёрстве с National Governance Association для создания набора материалов по школьной политике в области ИИ.
Ключевые факты
Программа посвящена ответственному применению ИИ при составлении планов уроков, упрощении административных задач и адаптации занятий к разным потребностям учащихся.
По сообщению Google, ранее программа была запущена для 6 млн педагогов в США, а затем расширена на Индию и Корею. Эта цифра описывает охват предложения, а не число завершивших обучение.
Google ссылается на анализ Public First, согласно которому применение ИИ потенциально может помочь в 74% образовательных должностей в Великобритании.
Объективно о важном
Расширение программы даёт педагогам возможность изучить применение ИИ к конкретным рабочим задачам, но не означает, что школы уже внедрили эти инструменты. Школьным руководителям предстоит определить, какие материалы и данные допустимо использовать, как проверять результаты и кто отвечает за решения.
Бизнес-процессы
Подготовка учебных материалов — Педагоги могут освоить способы составлять и адаптировать планы уроков с помощью ИИ, сохраняя собственную проверку материалов.
Школьная политика применения ИИ — Набор материалов, создаваемый с National Governance Association, может помочь школьным управляющим и попечителям определить подход к инструментам и обучению.
Возможности автоматизации
Подготовка планов уроков и административных материалов: После обучения пробовать ИИ для черновиков и адаптации материалов с последующей проверкой педагогом. Условия: Программа обучает применению ИИ, но не подтверждает автоматизацию задач в школах.; Школе нужны собственные правила безопасного использования и проверки материалов.
Повышение квалификации сотрудников: Включить мероприятия программы в план обучения педагогов. Условия: Google заявляет программу как бесплатную для педагогов Великобритании и Ирландии.; Предусмотрены виртуальные и очные мероприятия под руководством педагогов.
Влияние на ручную работу
Полученные навыки могут помочь сократить время на отдельные подготовительные и административные задачи. Google не приводит измерений фактической экономии времени в школах.
Ограничения и риски
Обучение не равно внедрению: результат зависит от применения навыков, правил школы и проверки материалов.
Оценка потенциала 74% должностей, приведённая Google со ссылкой на Public First, не измеряет эффект этой программы.
Программа не снимает с педагогов ответственности за содержание материалов и безопасное использование инструментов.
