AI 也學壞了?Amazon語音助理Alexa叫10歲小女孩嚐試觸電挑戰!

天氣不好或是疫情升溫無法出去玩時,你會請語音助理建議玩些室內遊戲嗎?當心別碰上這樣的事情…

Amazon(亞馬遜) AI 語音助理Alexa竟然向一名10歲女孩「發出挑戰」,要她拿銅板碰觸通電插座。這建議是在小女孩要求做一項「挑戰」時的回應:「將手機充電器插進牆上插座一半,然後用硬幣碰觸暴露的插腳」。Amazon聲稱已經修復了這個錯誤。

繼續閱讀

《IOT物聯網》亞馬遜 Alexa 語音助理可能成為竊聽器?!

研究人員發現了熱門智慧家居系統內的物聯網(IoT ,Internet of Thing設計缺陷:他們發現駭客可以寫程式利用Amazon的Alexa服務來竊聽使用者並轉錄所聽到的訊息。要做到這點只需要建立一個應用程式,讓語音啟動的數位助理將所聽到的所有內容轉錄給駭客,這是種會被惡意用來竊取敏感資訊的功能。

[延伸閱讀:你的連網語音助理安全]

Alexa語音助理的設計是在收到提示詞後會開始收聽使用者指令,不過只啟用一小段時間。一旦服務通知使用者對話結束就會回到休眠狀態,直到下一次收到提示詞啟動。當研究人員以駭客的角度來研究這功能,發現可以在程式中插入空白回覆提示詞來惡意利用這功能,這表示Alexa認為自己已經通知使用者設備仍在收聽,但其實卻是保持沉默。使用者並不會意識到這一點,而且也可能沒有注意到Echo設備上的藍色指示燈亮起。只要沒有收到使用者的提示詞,這收聽狀態就會一直繼續下去。

 

[測驗:為孩子購買智慧型設備?先問自己這8 個問題]

經過進一步的測試,研究人員增加說明了如何將設備所收聽到的所有訊息轉錄下來,可以再將收集到的資訊傳送給駭客,直到設備關閉。研究人員已經將此漏洞告知了Amazon,儘管完整的修復方法並未透露,但此一漏洞已經被修復。 繼續閱讀