AI觀察站

智慧音箱所衍生的資安危機(下)

近幾年,由於人工智慧及語音辨識技術的快速發展,使得智慧音箱(Smart Speakers)能更精準地與人們互動,而備受許多家庭歡迎。然而,智慧音箱卻也潛藏許多法律與倫理道德之議題,是我們應該要去關注的。英國政府所創設的資料倫理與創新中心(Centre for Data Ethics and Innovation; CDEI)於今年九月發布了一篇報告,即針對智慧音箱來做探討,故本文分為上下篇,乃摘譯該報告之內容,以利我們能迅速掌握與之相關的問題


智慧音箱的破壞性影響

智慧音箱可以改變人們與網路世界互動的方式,甚至可以從根本上改變人們與科技的關係,即智慧音箱憑藉其人格特性會影響人們如何與之互動以及將之融入生活中。而智慧音箱帶來的破壞性影響(Disruptive Effect),簡述如下:


一、智慧音箱與科技的新關係
智慧音箱雖然可以與人互動,但其擬人化的性格卻也引發一些顧慮。孩童們是最容易受到影響的群體,因為他們可能會把智慧音箱視為可以與他們建立關係且有知覺的人。這所產生的風險是可能利用這種關係,導致孩童們被動地接受收到的回應,而沒有考慮到自己的安全。

二、智慧音箱與公眾服務
於今年七月,Amazon和英國政府宣布Alexa將應用於英國國民保健署(National Health Service; NHS)的網站,向搜尋健康意見的使用者提供資訊。這的確有助於使用者確信他們收到的資訊是可靠的,然而許多人也批評NHS與Amazon合作。如前所述,一些人對隱私和個人資料的共享提出了質疑,其他人則質疑,NHS鼓勵使用特定的智慧音箱而不是其他品牌的智慧音箱,從而增強了Amazon的市場力量。

Amazon於未來採取的措施,可能會鼓勵使用者藉由其智慧音箱共享有關自己的敏感訊息。這樣一來,就可以更加清楚地說明所蒐集資料的處理方式以及使用者如何掌握共享的內容。

三、語音助理是否帶有性別歧視
大多數的語音助理在預設下皆為女性聲音,並且最受歡迎的兩種語音助理都擁有女性的名字,例如Alexa與Cortana。令人們擔憂的是這些裝置已經根深蒂固地刻畫了性別定型觀念,使女性在私人助理的角色中表現為奴役、服從與舒適。隨著公司開發專為兒童設計的產品,對於這項作法保持謹慎是很重要的。

不過,即使要求使用者可以選擇聲音的性別,也可能無法完全解決性別偏見永久的問題。有一種選擇是為智慧音箱分配具有性別中立的聲音,或者是故意聽起來不像人類的聲音,但尚不清楚這是否可行或在商業上是可行的。

四、對選擇的影響
當前的語音助理市場由少數大型科技公司主導。如果語音助理成為人們取得資訊的關鍵方式,那麼主要的科技公司將藉由語音助理來增強他們作為中間人的地位。因為人們很可能只使用一個語音助理,而不是使用來自不同公司的各種智慧音箱。

當人們使用智慧音箱搜尋資訊時,結果通常是由商業演算法來推動的。如果製造商與供應商之間有協議,則人們搜尋資訊時可能會偏向特定的供應商。儘管人們透過螢幕瀏覽網路時也會受此類演算法的影響,但語音助理會加劇這種影響,即更難去搜尋不同的資訊。

在透過智慧音箱購買物品時,可能存在相同的問題。人們可能難以比較可用的不同產品。如果語音搜索成為人們購買商品的主要方式,那麼語音助理所顯示的首選產品或預設推薦產品,可能會對這些產品提供者之間的競爭產生重大影響。

五、對新聞理解消化的影響
許多智慧音箱現在會要求人們選擇他們喜歡的新聞來源,這至少可以讓人們更好地控制,使他們可以在特定時刻選擇自己喜歡的新聞來源。但是,這並不能解決問題,因為智慧音箱製造商正成為新聞內容的管理人。例如Google已經創建了一個匯總的新聞服務,提供一系列新聞發布者的內容。儘管Google提供匯總的內容,但新聞提要的策劃方式,包括新聞的選擇方式和出現的順序,都使智慧音箱開發人員及其公司是處於有影響力的位置。

此外,語音助理的性質意味著它們在提供簡明訊息時會發揮最佳作用。當使用者詢問當地餐廳詳細訊息或電影列表時,此方法效果很好。然而,若從新聞中得出的答案,該事實可能並不清楚。解釋某些有爭議的事實,語音的回答可能會很冗長。但是,隨著技術的發展,有可能使智慧音箱標示出新聞重點,並在適當的情況下,將使用者導向瀏覽相關新聞內容以獲取更多訊息。

六、搜尋引擎面臨的挑戰
智慧音箱以易於消化且快速地向人們提供訊息,將對傳統的網路搜索產生破壞性的影響。語音助理正迫使行銷人員對他們如何在網路上呈現內容進行討論,因為藉由語音傳遞回應時,很有可能只會是傳遞第一個結果,故將訊息放在人們搜索結果頂部的競爭,也將變得更加激烈。因此,檢索訊息和購買產品雖然可能變得越來越快。但是比較產品或查看來自不同來源的內容可能會更加困難。
如何面對智慧音箱所帶來的擔憂

儘管智慧音箱帶來新的機會和好處,但是卻無法消除人們對它的擔憂。在短期內,技術進步很可能會減少由「錯誤接受」引起的問題。儘管科技公司有商業上的誘因來擴大資料的蒐集,但是在加強人們隱私保護的新產品也可能會變得更加普及,特別是在有消費者需求的情況下。

然而,對於智慧音箱長期影響的擔憂,則需要採取不同的方法。開發人員可以在創新時採取更具包容性、回應性和開放性的措施。政府則可以集中在提高網路安全性,即政府應鼓勵製造商做出更大努力以在其產品中建立網路安全性,並幫助保護消費者的隱私與安全性。此外,當涉及到新聞內容的可靠性時,英國政府在其「線上傷害白皮書」(Online Harms White Paper)中建議可能需要科技公司提供各種新聞來源,並在演算法上推廣那些更可靠的新聞來源。

本文於下重點介紹了一些方法,旨在解決前述所強調的問題:
第一,產業和技術開發人員應努力以清晰易懂的格式,解釋智慧音箱的運作方式,包括蒐集資料、存儲位置以及如何使用蒐集的資料。他們可以採用創新的方法來做到這一點,例如使用智慧音箱簡潔地解釋隱私和資料共享的策略與實踐。此外,應該清楚地傳達使用者在提供協助產品開發和創新資料方面的應用,包括可能對語音紀錄進行人工審查以及任何相關的隱私管理。

第二,應該為使用者提供更好的管理方式,使其可以決定如何使用和共享資料,包括與第三方開發商和承包商的共享。而新的管理方式,在引進時應向使用者重點標示。另外,可以優先開發包括當地化處理在內的隱私優先體系結構,以便減少共享給雲端的資料量。

第三,鑒於語音助理對隱私、新聞內容理解消化以及使用者比較品項能力的潛在影響,監管機構(包括ICO,OFCOM和CMA)和CDEI需要與時俱進,並蒐集有關智慧音箱因為科技發展而帶來影響的證據。

第四,使用者應詢問語音助理,有關它們會蒐集哪些資料以及如何處理的問題。如果使用者不滿意語音助理的回答,則應考慮調整該智慧音箱的設置或考慮使用其他智慧音箱。

第五,CDEI在網路上定位和個人化方面的工作,將有助於未來的思考,尤其是在有關侵入性的特徵以及如何解決這一方面的問題。

結論
智慧音箱和語音助理帶來的好處不勝枚舉,從在烹飪時聲控設置計時器到不按任何按鈕即可打電話給朋友,都能使人們的生活更於便利。此外,隨著科技的發展,智慧音箱和語音助理的功能勢必會再提升,故人們可以預期其能夠更加精準地檢索字詞,並且也能更自然地與人們互動。同時它們也將被設置與使用在更廣泛的環境中,例如人們可以利用智慧音箱處理銀行業務或是搜尋健康資訊。

然而,智慧音箱和語音助理所蒐集的語音資料,以及如何使用這類語音資料,仍為人們所擔憂。再者,對於人們與科技互動的方式,智慧音箱和語音助理可能會產生破壞性的影響,因為它們除了會改變人們理解消化內容的方式以外,也可能成為通往網路世界的主要路徑。這種趨勢是否會對人們產生負面影響,還有待觀察,但監管機構和CDEI仍應予以密切關注。

因此,開發人員可能需要與人們有更好的溝通方法,因為溝通的改善將使人們能夠做出更明智的選擇,從而有助於解決擔憂的問題。最近的新聞報導也揭露了資料的使用和共享方式的醜聞,故應該會提醒人們呼籲科技公司採取更加透明的行動,並主動解釋其蒐集哪些資料以及如何使用這些資料。
(編譯者:陳中安)