Как программно отправить команду сокета unix на системный сервер, автоматически созданный браузером, или преобразовать код JavaScript в C++ для Chromium?
В настоящее время реализация Спецификации Web Speech API в Chromium и Firefox не поддерживает синтаксический анализ языка разметки речи (SSML), если для SSML задано значение text
собственностью SpeechSyntheisUtterance
экземпляр и передан window.speechSynthesis.speak()
вызов; увидеть реализацию синтаксического анализа SSML в браузерах; 5.2.3 Атрибуты SpeechSynthesisUtterance; Как настроить параметры команд, вызываемых браузером?,
Хром исходный код для сокета Unix подключиться к speech-dispatcher
соединение находится по адресу https://cs.chromium.org/chromium/src/chrome/browser/speech/tts_linux.cc?ssfr=1&l=119
{
// spd_open has memory leaks which are hard to suppress.
// http://crbug.com/317360
ANNOTATE_SCOPED_MEMORY_LEAK;
conn_ = libspeechd_loader_.spd_open(
"chrome", "extension_api", NULL, SPD_MODE_THREADED);
}
что отражается на /run/user/1000/speech-dispatcher/log
speechd: Updating client specific settings "linux:chrome:extension_api"
Исходный код Chromium по адресу https://cs.chromium.org/chromium/src/third_party/speech-dispatcher/libspeechd.h?q=SSML&dr=CSs&l=62
появляется, чтобы определить SSML_DATA_MODE
описано в speech-dispatcher
документация
speech-dispatcher
В документации говорится, что файл конфигурации пользователя можно использовать для установки параметров для конкретных клиентов.
4.1.6 Команды настройки параметров
Доступны следующие команды настройки параметров. Для клиентов конфигурации и истории есть также функции для установки значения для некоторого другого соединения и для всех соединений. Они перечислены отдельно ниже.
Функция C API:
int spd_set_data_mode(SPDConnection *connection, SPDDataMode mode)
Установите режим данных Speech Dispatcher. В настоящее время поддерживается простой текст и SSML. SSML особенно полезен, если вы хотите использовать индексные метки или включить изменения параметров голоса в текст.mode - запрашиваемый режим данных:
SPD_DATA_TEXT
или жеSPD_DATA_SSML
,
SPD_DATA_SSML
не установлен в on
при установлении соединения SSIP от Chromium до speech-dispatcher
Например, как продемонстрировал @xmash в разделе Как использовать индексные метки в "диспетчере речи"?
spd_execute_command_wo_mutex( m_connection, "SET SELF SSML_MODE on" );
также невозможно передать опции модулю синтеза речи по умолчанию, m
за espeak
или же -x
за spd-say
,
С LogLevel
установлен в 4
или же 5
/run/user/1000/speech-dispatcher/log
перечисляет связь между Chromium (клиент) и speech-dispatcher
speechd: Module set parameters
(сервер), который также можно посмотреть на stdout
с использованием PID
в /run/user/1000/speech-dispatcher/pid
а также strace
, см. Есть ли способ перехватить межпроцессное взаимодействие в Unix/Linux?
$ sudo strace -ewrite -p $PID
write(22, "216 OK OUTPUT MODULE SET\r\n", 26) = 26
Похоже, что не существует опции для включения разбора SSML из speechd.conf
или же espeak.conf
следующий ход
$ spd-conf -u
При попытке анализа SSML с использованием JavaScript в https://github.com/guest271314/SpeechSynthesisSSMLParser обнаружена ошибка в Chromium при попытке анализа <break>
элемент, где не ясно, является ли spd-say
вызывается или модуль вывода по умолчанию, например, espeak
запускается когда window.speechSynthesis.speak()
вызывается браузером; см. https://cs.chromium.org/chromium/src/out/Debug/gen/library_loaders/libspeechd.h.
Создан подход к использованию php
звонить espeak
с помощью shell_exec()
который возвращает ожидаемый результат
// JavaScript
async function SSMLStream({ssml="", options=""}) {
const fd = new FormData();
fd.append("ssml", ssml);
fd.append("options", options);
const request = await fetch("speak.php", {method:"POST", body:fd});
const response = await request.arrayBuffer();
return response;
}
let ssml = `<speak version="1.0" xml:lang="en-US">
Here are <say-as interpret-as="characters">SSML</say-as> samples.
Hello universe, how are you today?
Try a date: <say-as interpret-as="date" format="dmy" detail="1">10-9-1960</say-as>
This is a <break time="2500ms" /> 2.5 second pause.
This is a <break /> sentence break</prosody> <break />
<voice name="us-en+f3" rate="x-slow" pitch="0.25">espeak using</voice>
PHP and <voice name="en-us+f2"> <sub alias="JavaScript">JS</sub></voice>
</speak>`;
SSMLStream({ssml, options:"-v en-us+f1"})
.then(async(data) => {
let context = new AudioContext();
let source = context.createBufferSource();
source.buffer = await context.decodeAudioData(data);
source.connect(context.destination);
source.start()
})
// PHP
<?php
if(isset($_POST["ssml"])) {
header("Content-Type: audio/x-wav");
$options = $_POST["options"];
echo shell_exec("espeak -m --stdout " . $options . " '" . $_POST["ssml"] . "'");
};
Требование:
Разбор SSML, установленный в текстовом свойстве SpeechSynthesisUtterance
используя существующие возможности нативной программы, вызываемой для преобразования текста в речь speech-dispatcher
модуль вывода, использующий возможности браузера по умолчанию.
Вопросы:
1) Как программно прослушивать PID
когда speech-dispatcher --spawn-communication-method unix_socket --socket-path /run/user/1000/speech-dispatcher/speechd.sock
вызывается браузером Chromium, затем spd_execute_command_wo_mutex
или же spd_execute_command_wo_mutex
к speech-dispatcher
сервер, использующий установленное сокетное соединение Unix в качестве клиента (Chromium) с "SET SELF SSML_MODE on"
в качестве второго параметра, чтобы включить разбор SSML для всех вызовов window.speechSynthesis.speak()
в браузере Chromium?
2) Если 1) невозможно, что нужно отрегулировать в исходном коде Chromium, чтобы включить синтаксический анализ SSML для соединения с сокетом Unix, например, в tools / generate_library_loader / generate_library_loader.py?
3) Если 1) и 2) не являются жизнеспособными вариантами, как преобразовать код JavaScript и PHP в код C++ в формате, используемом браузером Chromium; и как собрать Chromium с включенным патчем; с целью разоблачения speak
Функция принимает параметры, которые могут быть переданы в собственное приложение для синтеза речи, где анализируется SSML, и полученный звуковой вывод возвращается вызывающей стороне JavaScript как ArrayBuffer
?
4) Если доступны варианты, отличные от 1), 2) и 3), которые могут удовлетворить требования, как мы можем разрешить запрос программно; без необходимости запускать локальный сервер вручную terminal
?