1,082件の翻訳で、誤ったアルファベットの単語が混入していました。しかし、当社のチェックはすべてを合格と判定していました。
言語
10月31日、当社のサイトの1つで、ハンガリー語の文の途中に中国語の単語が混ざっているのを発見しました。当社が運営するすべてのサイトの保存済み翻訳を対象に、その言語に属さない文字がないか検索したところ、同様の翻訳が1,082件見つかり、そのうち581件は公開中のページに存在していました。これらはすべて、当社のチェックを通過していました。
発見された問題
これらはすべて、当社のサイトを翻訳するローカルモデルによって生成されたもので、すべて同じ種類のミスです。つまり、別の言語の単語が1つまたは2つ混入しているというものです。保存済みの翻訳、およびそれ以降に却下された翻訳からの事例は以下の通りです。
- 他言語に混入する中国語: タイ語の文の途中に「they are」が它们是として現れた例。中国語の「track」に相当する跟踪にハンガリー語の語尾が付与された例（「támadók跟踪ására」）。ポーランド語やギリシャ語でも同様の混入が見られました。
- ギリシャ語、アルメニア語、ヘブライ語、スロベニア語に混入するロシア語: ギリシャ語の「full house」が「φουλ хаус」となり、2番目の単語がキリル文字になっていました。
- 酷似する文字: フィンランド語やチェコ語の単語の末尾に、キリル文字の「о」や「а」が混入した例。ページを読む人は気づきませんが、検索エンジンやスクリーンリーダーには影響します。
- 隣接する文字体系: カンナダ語の単語の中にベンガル語の文字が混入した例、カンナダ語の中にデヴァナーガリー文字が混入した例。
- クメール語ページに混入するタイ語の行全体: 2つのサイトのクメール語ページで、タイトル、ラベル、テーブルセルが単にタイ語で記述されていました。
当社のストアでも、同様の行が7件見つかりました。その1つでは、ルーマニア語で「planted values」が「valori植入」となっていました。
チェックを通過した理由
文字体系チェックでは、翻訳の文字の少なくとも45%がその言語の文字体系に属しているかを確認していました。これは、英語がそのまま残っているケースを検出するために設計されたものです。100文字のハンガリー語の文に中国語の文字が2つ混ざっても、割合は大きく変わらず、キリル文字が1つ混ざっても影響はさらに小さくなります。
短いテキストには別のルールが適用されていました。英語で25文字未満の場合、チェックは回答が英語のまま残っていないことのみを確認していました。タイ語で書かれたクメール語のテーブルセルには英語が一切含まれていないため、合格と判定されました。
混入を検出するルール
その言語が使用しない文字体系に属し、かつ英語の原文に含まれていない文字は、誤りです。ただし、以下の3つの例外により、誤検知を防いでいます。
- ラテン文字は常に許可されます。ブランド名、コード、単位はすべての言語に現れるためです。
- 中国語、日本語、韓国語はチェックしていません。日本語はかなと漢字が混在し、韓国語は漢字（漢字）を使用する可能性があるためです。
- 2つの文字体系で表記されるセルビア語とパンジャブ語は、中国語、日本語、韓国語の文字のみを対象にチェックしています。
当社のサイトに保存されていたすべてのデータに対してルールを実行し、フラグが立った行のうち目視で確認したものはすべて誤りでした。10月31日以降、翻訳作成時に1,652件の翻訳が拒否されました。そのうち1,549件はクメール語です。モデルはクメール語にタイ語を書き続けるのをやめていませんが、公開される代わりに再作成が求められています。
クリーンアップ
保存された翻訳は、その言語が再度翻訳されたときにのみ再チェックされるため、影響を受けたすべての言語を再度翻訳しました。11のサイトにわたる61言語です。2行は2回目も同じ誤りで戻ってきました。ルーマニア語の「valori植入」と、面向を含むギリシャ語の行です。この2行は手作業で書き直しました。11月2日時点で、当社の公開ページに他の文字体系の文字は残っていません。
ルールの現在の場所
ルールはGitHubで無料公開されている translation-checks 1.1.0 にあります。すべての数字が正しく変換され、日本語で「3 million」が300万になることを認識する新しいチェックも追加されました。当社のサイトの承認済み翻訳568,574件に対して新しいチェックを実行しましたが、誤検知はありませんでした。Polyglot 1.1.0にも同梱されています。当社のチェックが問題となった最初のケースは、以前のノートに記載されています。