Siriが音声アシスタントとの会話のスニペットを録音するというニュースは新しいものではありませんが、これらの短い録音が人間のエージェントによって聞かれると主張しているのは、特に会社のプライバシーに対する大きな要求に照らしてです。
これらはアップルにとって悪い光学系です
私はプライバシーの重要性を信じています。
それは、困難に勝った自由を維持し、公の言説を保護するという点で重要であるだけではありません。 また、すべての学校、医療施設、企業など、人間の存在のあらゆる部分で重要性が高まっています。 歴史は、プライバシーの欠如が社会に腐食性の影響を及ぼし、家族を互いに反感させ、革新を弱めることを示しています。
プライバシーに関するAppleの警告— AppleのCEOであるTim Cookの警告を含め、私たちが日々取り組んでいる多くのテック企業が私たちを監視状態に導いている-は重要です(プライバシーは私たちが私たちが作るロボットの良さ)。
しかし、Appleが私たちのプライベートな会話の録音が「品質管理」および「トレーニング」の目的で「請負業者」と共有されていることをAppleが明確にしていないという啓示は、同社にとって本当に悪い見方です。
Appleの発言
アップルはこう述べています:
「Siri要求のごく一部が分析され、Siriとディクテーションが改善されます。」 また、「ユーザーリクエストはユーザーのApple IDに関連付けられていません。 Siriの回答は安全な施設で分析され、すべてのレビュー担当者はAppleの厳格な機密保持要件を遵守する義務があります。」
それはある程度心強いですが、場合によっては、Appleのレビュー担当者が住所などの個人情報を共有する人々の声を聞いたと報告されているため、関連するApple IDから録音された音声を離婚する動きでは不十分な場合があります。
Appleはもう少し行う必要があります。
Appleが状況を改善する方法
透明性から始める
Appleの利用規約に記載されているように、Siriを使用して作成された録音は品質管理の目的で使用される場合があるという警告が表示されます。
また、これらの録音は(競合他社とは異なり)Apple IDや個人の識別情報とは一切関連付けられていないという約束もあります。
これらの約束はあまり明確ではありません。
だからこそ、AppleはデバイスでのSiriの使用に関して、より明確で理解しやすいプライバシー警告を導入すべきだと私は言う。 これらの警告を前面および中央に移動し、これらの警告を時々使用するだけでなく、警告の使用方法、警告を使用する際のIDの保護方法、および記録が正確に保持される期間も明確にする必要があります。
しかし、人々に制御を与える
Appleは(私が思うに)Siriの記録をオプトアウトにするべきだ。
つまり、新しいデバイスでSiriを設定する場合、ユーザーは元の要求以外の目的で自分の声の使用を明示的に拒否する機会を与えられるべきです。
トレーニングや品質管理にデータを使用したくないと言えるはずです。
「しかし、Appleはアシスタントをすぐにトレーニングすることができなくなります」と不満を言う人もいます。 おそらくそうではないかもしれませんが、プライバシー保護におけるリーダーシップを維持することになるでしょう。
それだけでなく、これらの録音が実際にどれほど有用であるかは議論の余地があります。
より責任を持つようになる
アップル、グーグル、アマゾン、およびその他すべてが使用している「請負業者」は誰ですか?
彼らはどのように雇われますか?
彼らの仕事の説明は何ですか? 他に誰のために働いていますか?
彼らはどのような根拠で信頼でき、この信頼を乱用した場合、個人はどのようにして賠償を引き出すことができますか?
そして、なぜSiriユーザーはこれらすべての質問に対する答えを既に知っていないのですか?
これらの請負業者が外部委託されていることは意味がありません。
Appleはこの作業を社内に持ち込み、ボイスワーカーと管理者がこれらの録音で行うことに対して完全に説明責任を負い、データプライバシーの侵害を顧客が何らかの方法で罰するようにする必要があります。
あなたが情報を必要とすることを本当に確実にしてください
Appleは、聞いた単語の小さなセクションのみを記録して使用すると述べていますが、取得することを選択した数のサンプルを保持または検証する必要さえありますか?
次のように考えてください。
WatchまたはHomePodのSiriが「Hey、Siri」コマンドだと思っているのが聞こえたが、その後要求が出されない場合、間違いなく誤警報が発生したことを認識するのに十分スマートであるはずです。
そのような誤警報が発生した場合、デバイス上のSiriは、偶発的な呼び出しの原因を知るのに十分スマートであり、将来その音にあまり敏感ではないはずです。
(A ガーディアン たとえば、zipの音が時々Siriを目覚めさせると報告書は主張しています–確かにSiriは応答でzipの音を無視することを学ぶことができます。)
要点は、Siriが呼び出されても特定の要求が行われない場合、システムは対話を無視し、その対話の結果として(おそらく)最初の3秒を超えて行われた記録を削除するのに十分スマートでなければならないということです。トリガーコマンドを聞いたと思った。
このステップを踏むだけで、Siriが請負業者に聞いて共有したと言われている、より悪質な録音のいくつかをかなり防ぐことができます。
私は、Siriが聞きたくないときに自分の言うことを聞くのが上手くならないようにしたいと思います。 リクエストをしたときのリスニングが上達したいだけです。
人間も必要ですか?
音声技術は急速に進歩しています。 これは疑問を投げかけます:「人間の請負業者でもSiri関連の会話スニペットを聞く必要があるのでしょうか?」
多くの場合、そうではないと思います。
正確さのチェックを自動化するために、録音は最初にSiriや他の音声認識技術を通して行われるべきです。
人間の耳が必要なのに、異なる音声認識システムが発言に同意する方法を見つけられない場合にのみ。
私はAIの専門家ではありませんが、この種の分析は、ランダムフォレストモデル/アルゴリズムが構築されるものです。人間が必要な場合に、リクエストが間違った理由にテクノロジーが同意できない場合のみです。
なぜそれが重要なのか
これらは、Siriを業界で最もプライベートな音声アシスタントにするためにAppleが取ってほしいと思うほんの一部の提案にすぎません。
これは重要です。
それについて考えてください:
私たち自身の所有物を使用する言葉だけでなく、センサーベースのテクノロジーとAIがマッピングからユビキタスVRまで日常生活のさまざまな領域に入ると、プライバシーの必要性がさらに重要になり、私たちの生活はますます重要になります開いた本。
今日の声に関して私たちが下す決定は、他のすべてのプライバシー分野を定義します。
プライバシーはコンピュータ化された利便性のために支払うべき代償であると考える人もいますが、私は彼らに同意したことはありません。
私たちは、音声アシスタントのプライバシーに関する決定が私たちの将来に共感する人類の歴史のある時点に立っています。
これを効果的な方法で整理する必要があります。そうしないと、実装が安全でなくなり、倫理的に不安定になる可能性があるためです。
そしてAppleは、この分野でのデジタル著作権法案に対する要求を押し進めなければならない。この法案はユーザーをプライバシー管理の中心に置くものである。