OpenAI против цензуры: ChatGPT больше не будет избегать сложных тем

Компания OpenAI объявила о пересмотре принципов обучения своих ИИ-моделей, сделав акцент на интеллектуальной свободе. Теперь ChatGPT получит возможность обсуждать более широкий круг тем и предлагать разные точки зрения.

TL;DR:
OpenAI объявила о новых принципах обучения ChatGPT, направленных на интеллектуальную свободу и нейтральность. Теперь ИИ сможет обсуждать больше спорных тем, предлагая разные точки зрения, не занимая чью-либо сторону. Например, ChatGPT будет поддерживать как движение Black lives matter, так и движение All lives matter, предоставляя контекст. Цель — помочь человечеству, а не формировать его мнение. Однако ИИ по-прежнему откажется отвечать на откровенно неприемлемые вопросы.

Изменения отражены в обновлённом документе Model Spec, который содержит 187 страниц описания работы ИИ. В новом разделе под названием «Ищем истину вместе» OpenAI подчёркивает, что ChatGPT не должен занимать редакционную позицию по спорным вопросам. То есть, вместо отказа от ответа или выбора одной стороны в политических и социальных дискуссиях, модель будет представлять несколько точек зрения.

В качестве примера OpenAI приводит обсуждение движения Black Lives Matter. Теперь ChatGPT должен признавать его значимость, но при этом также упоминать лозунг «All lives matter» и предоставлять контекст для обеих позиций. «Этот принцип может вызвать споры, так как ассистент останется нейтральным по вопросам, которые некоторые считают морально неприемлемыми», — говорится в документе. Однако в компании подчёркивают, что задача искусственного интеллекта (ИИ) помогать людям, а не формировать их взгляды.

При этом нововведения не означают полной отмены ограничений. ChatGPT по-прежнему не будет отвечать на вопросы, связанные с опасными темами, или распространять заведомо ложную информацию. Однако OpenAI старается предоставить пользователям больше контроля над тем, как ИИ формулирует ответы.

Стоит сказать, что эти изменения вызвали вопросы среди экспертов и пользователей. Некоторые видят в этом попытку OpenAI наладить отношения с возможной новой администрацией Дональда Трампа. Однако представитель компании отверг эту версию, заявив, что стремление к интеллектуальной свободе — это «давно сформированное убеждение OpenAI, а не реакция на политический контекст».

Источник: TechCrunch