Navigating the Challenges and Opportunities of Synthetic Voices

Navigating the Challenges and Opportunities of Synthetic Voices

We’re sharing lessons from a small scale preview of Voice Engine, a model for creating custom voices.

openai.com

OpenAI is committed to developing safe and broadly beneficial AI. Today we are sharing preliminary insights and results from a small-scale preview of a model called Voice Engine, which uses text input and a single 15-second audio sample to generate natural-sounding speech that closely resembles the original speaker. It is notable that a small model with a single 15-second sample can create emotive and realistic voices.

We first developed Voice Engine in late 2022, and have used it to power the preset voices available in the text-to-speech API as well as ChatGPT Voice and Read Aloud. At the same time, we are taking a cautious and informed approach to a broader release due to the potential for synthetic voice misuse. We hope to start a dialogue on the responsible deployment of synthetic voices, and how society can adapt to these new capabilities. Based on these conversations and the results of these small scale tests, we will make a more informed decision about whether and how to deploy this technology at scale.

Chat GPT번역

OpenAI는 안전하고 폭넓게 유익한 인공지능을 개발하기 위해 노력하고 있습니다. 오늘은 Voice Engine이라는 모델의 소규모 미리보기에서의 예비적인 인사이트와 결과를 공유하고자 합니다. Voice Engine은 텍스트 입력과 15초의 오디오 샘플 하나를 사용하여 원본 스피커를 매우 닮은 자연스러운 음성을 생성합니다. 15초의 샘플과 작은 모델만으로도 감정을 담은 현실적인 목소리를 만들어낼 수 있다는 점이 주목할 만합니다.

저희는 먼저 2022년 말에 Voice Engine을 개발했으며, 이를 텍스트 음성 변환 API 및 ChatGPT Voice와 Read Aloud에서 사용했습니다. 동시에, 합성 음성 남용의 가능성으로 인해 보다 넓은 배포에 대해 신중하고 철저한 접근을 취하고 있습니다. 우리는 합성 음성의 책임 있는 배포에 대한 대화를 시작하고, 사회가 이러한 새로운 능력에 어떻게 적응할 수 있는지에 대해 희망합니다. 이러한 대화와 소규모 테스트 결과를 바탕으로, 우리는 이 기술을 규모 확장하여 어떻게 배포할지에 대한 보다 철저한 결정을 내릴 것입니다.

1. Providing reading assistance

비독자 및 어린이들에게 자연스럽고 감정을 담은 목소리를 통해 독서 지원을 제공하면서, 프리셋 목소리로는 불가능한 더 다양한 연사자를 대표할 수 있습니다. 어린이들의 학업 성취에 헌신하는 교육 기술 기업인 Age of Learning은 이를 활용하여 사전 작성된 보이스오버 콘텐츠를 생성하고 있습니다. 또한, 이들은 학생들과 상호 작용하기 위해 실시간으로 개인화된 응답을 생성하기 위해 Voice Engine과 GPT-4를 사용하고 있습니다. 이 기술을 통해 Age of Learning은 보다 넓은 대중을 위한 콘텐츠를 더 많이 생성할 수 있었습니다.

2. Translating content

콘텐츠를 번역하여 창작자와 비즈니스가 세계 각지의 사람들에게 더 많이 닿을 수 있도록 도와줍니다. 이를 통해 창작자들은 자신의 목소리로 자유롭고 유창하게 세계 각지의 사람들에게 메시지를 전달할 수 있습니다. 이러한 서비스를 초기 도입한 기업 중 하나는 HeyGen입니다. HeyGen은 기업 고객과 협업하여 제품 마케팅부터 판매 데모까지 다양한 콘텐츠를 위해 사용자 정의, 인간과 유사한 아바타를 만드는 AI 시각적 스토리텔링 플랫폼입니다. 그들은 비디오 번역을 위해 Voice Engine을 사용하여 스피커의 목소리를 여러 언어로 번역하여 전 세계적인 청중에게 도달할 수 있습니다. 번역에 사용될 때, Voice Engine은 원본 스피커의 모국어 발음을 보존합니다. 예를 들어, 프랑스어 스피커의 오디오 샘플을 사용하여 영어를 생성하면 프랑스어 발음의 음성이 생성됩니다.

3. Reaching global communities

원격 지역에서 필수 서비스 제공을 향상시켜 세계 지역 사회에 도달합니다. Dimagi는 수유하는 어머니를 위한 상담과 같은 다양한 필수 서비스를 제공하기 위해 지역 건강 노동자를 위한 도구를 개발하고 있습니다. 이러한 노동자들이 기술을 향상시키는 데 도움을 주기 위해, Dimagi는 Voice Engine과 GPT-4를 사용하여 각 노동자의 주 언어인 스와힐리어나 케냐에서 인기 있는 코드 혼용 언어인 샹과 같은 비공식적인 언어로 상호작용적인 피드백을 제공합니다.

4. Supporting people who are non-verbal

언어적으로 의사소통이 불가능한 사람들을 지원합니다. 이는 말에 영향을 주는 상태를 가진 개인들을 위한 치료적인 응용 프로그램과 학습 요구가 있는 사람들을 위한 교육적 향상을 위한 것입니다. AI 대안 의사소통 앱인 Livox는 장애인이 의사소통할 수 있도록 하는 보조 및 대체 의사소통(AAC) 장치를 제공합니다. Voice Engine을 사용함으로써, Livox는 언어에 관계없이 많은 언어로 말하지 않는 사람들에게 독특하고 로봇적이지 않은 목소리를 제공할 수 있습니다. 이들의 사용자들은 자신을 가장 잘 대표하는 음성을 선택할 수 있으며, 다국어 사용자의 경우 각각의 말하는 언어에서 일관된 음성을 유지할 수 있습니다.

5. Helping patients recover their voice

갑작스러운 또는 변 deg한 발음 장애를 겪는 환자들이 목소리를 회복하는 데 도움을 줍니다. Brown 대학교 의학 학교의 주요 교육 제휴사 역할을 하는 비영리 건강 시스템인 Lifespan의 Norman Prince Neurosciences Institute는 임상 맥락에서 AI의 사용 방법을 탐구하고 있습니다. 그들은 발음 장애가 있는 종양학 또는 신경학적 원인을 가진 개인들에게 Voice Engine을 제공하는 프로그램을 시행 중입니다. Voice Engine은 아주 짧은 오디오 샘플이 필요하기 때문에, Fatima Mirza, Rohaid Ali 및 Konstantina Svokos 의사들은 학교 프로젝트를 위해 녹화된 비디오에서 오디오를 사용하여 혈관성 뇌종양으로 유창한 발음을 잃은 젊은 환자의 목소리를 회복할 수 있었습니다.

• Voice Engine를 안전하게 구축하기

우리는 사람들의 목소리와 닮은 음성을 생성하는 것이 심각한 위험을 내포한다는 것을 인식하고 있습니다. 특히 선거 연도에는 더욱 더 우려되는 문제입니다. 우리는 미국과 국제적인 정부, 언론, 엔터테인먼트, 교육, 시민 사회 등의 파트너들과 협력하여 우리가 구축하는 동안 그들의 피드백을 통합하고 있습니다.

오늘 Voice Engine을 테스트하는 파트너들은 우리의 사용 정책에 동의했으며, 이 정책은 동의나 법적 권리 없이 다른 개인이나 조직을 흉내 내는 것을 금지합니다. 또한, 이러한 파트너들과의 계약 조항은 원래 스피커로부터 명시적이고 정보를 얻은 동의를 요구하며, 개발자들이 개별 사용자가 자신의 목소리를 만들 수 있는 방법을 개발하지 못하도록 합니다. 파트너들은 또한 자신들의 청중에게 듣는 목소리가 AI로 생성된 것임을 명확히 공개해야 합니다. 마지막으로, 우리는 Voice Engine으로 생성된 모든 오디오의 원본을 추적하기 위한 워터마킹과 사용 방법을 선제적으로 모니터링하는 등의 안전 조치를 시행했습니다.

우리는 합성 음성 기술의 넓은 배포는 원래 스피커가 자신의 목소리를 서비스에 의도적으로 추가하고 있음을 확인하는 음성 인증 경험과, 유명 인물과 너무 유사한 목소리의 생성을 감지하고 방지하는 "no-go" 목소리 목록이 필요하다고 믿습니다.

• 전망

Voice Engine은 기술적인 최전선을 이해하고 AI가 가능한 것을 공개적으로 공유하기 위한 우리의 약속의 연속입니다. AI 안전에 대한 접근 방식과 우리의 자발적인 약속에 따라, 우리는 현재 이 기술을 미리 보여주지만 널리 공개하지는 않을 것입니다. Voice Engine의 미리보기가 이 기술의 잠재력을 강조하는 동시에, 점점 더 현실적인 생성 모델로 인해 사회적 회복력을 강화해야 할 필요성을 촉발하기를 바랍니다. 구체적으로 다음과 같은 단계를 촉진합니다:

은행 계좌 및 기타 민감한 정보에 액세스하는 보안 조치로서 음성 기반 인증을 단계적으로 폐지합니다. 개인의 목소리 사용을 보호하기 위한 정책을 탐색합니다. AI 기술의 능력과 한계를 이해하기 위해 대중 교육을 실시합니다. 속임수가 가능한 AI 콘텐츠의 가능성을 포함하여. 오디오 비주얼 콘텐츠의 원본을 추적하는 기술 및 방법의 개발과 도입을 가속화하여, 실제 사람이나 AI와 상호 작용할 때 항상 명확하게 할 수 있도록 합니다.

이 기술이 어느 방향으로 향하고 있는지 세계의 사람들이 이해하는 것이 중요합니다. 우리가 최종적으로 이를 널리 배포하든 말든, 우리는 정책 결정자, 연구자, 개발자 및 창의적인 사람들과 함께 합성 음성의 도전과 기회에 대한 대화를 계속 기대합니다.