微軟將用 AI 過濾 Xbox 的不當內容,反霸凌,更友好

0

只要有討論區,就一定會有互相叫罵的問題,不管是PTT、網路論壇或是粉絲團都一樣。而遊戲圈也不例外,身為全球知名的線上遊戲、數位媒體服務平台,Xbox Live 從來都不缺這些「唇槍舌戰」的人。而過去,身為平台管理者,也僅能在事後對不良言論進行處理。

現在,微軟終於決定主動出擊了。他們發現僅在事後對不良行為進行處理是不夠的,他們決定採取一種更為積極主動的方式去封鎖敏感不當內容——訊息過濾器。這個過濾器支援 21 種語言的過濾,它不僅能封鎖特色「國罵」,也能分為「友好、中等、成人、未過濾」進行過濾設置。

 微軟將用 AI 過濾 Xbox 的不當內容,反欺凌,更友好

最高等級的過濾器為所有未成年的遊戲玩家預設開啟,它將盡最大可能封鎖攻擊性語言;中等過濾器允許一些友好的垃圾話,當也會盡忠職守地封鎖攻擊性和帶有歧視的語言;成人版過濾器則要寬容得多,只會封鎖那些一直有較強攻擊性的語言。

 微軟將用 AI 過濾 Xbox 的不當內容,反欺凌,更友好

當然,在選擇你覺得適合自己使用的過濾器後,你也可以為朋友和特定的人進行不同的設置。不管是討厭某位玩家而為他特別開啟「友好」過濾器,還是和朋友們打遊戲時總是放飛自我選擇不過濾,都有較高的自由度。

家長也能透過微軟的家庭設置來管理過濾器的不同等級,Xbox One、Xbox Game Bar 以及適用於 Windows 10、iOS 和 Android 的 Xbox app 中均將支援此過濾功能。

目前過濾器還在內測之中,但微軟已經計畫在今年秋季向所有用戶推出這個新工具。

 微軟將用 AI 過濾 Xbox 的不當內容,反欺凌,更友好

微軟的 Xbox 業務負責人 Dave McCarthy 表示,在遊戲中,語境是一個非常重要的因素。如果你在戰鬥類遊戲中談論殲滅敵人或戰鬥那大多沒什麼問題,但你要在一個田園類遊戲或換裝類遊戲中這麼說很可能就帶有威脅恐嚇的意味。

為此,Dave McCarthy 和團隊也一直在研究將 AI 和關鍵詞過濾工具相結合,更好地辨識訊息上下文語境。

 微軟將用 AI 過濾 Xbox 的不當內容,反欺凌,更友好

內容文字過濾還只是一個開始,下一個計畫或許是語音過濾。或者更進一步說,微軟的目標是能直接完成遊戲直播中的敏感詞過濾。

畢竟在遊戲裡打字罵人的雖多,開著語音就瘋狂開罵的也不少,這其中就有不少「過界」內容。為此,微軟研究院開發了語音轉文字的功能,可實時轉寫音訊,Xbox 部門未來也可能使用這一功能。

不過這還處於早期階段。Dave McCarthy 表示「我們正在尋找其他人工智慧技術來解決更多的語音過濾問題,比如情緒檢測和上下文檢測。」

 微軟將用 AI 過濾 Xbox 的不當內容,反欺凌,更友好

不管是在技術難度上還是隱私層面的保護上,想要實現這一切都不容易。Dave McCarthy 在接受 The Verge 採訪時就表示 Xbox Live 不是一個言論自由的平台,每個人在這其中享有一定的自由度,但平台依舊有一定限制。

「如果我們真的要釋放行業的潛力,讓這個美好的媒介走進每個人的生活,那就沒有這些不當內容的空間。」

  • 本文授權轉載自:ifanr

加入T客邦Facebook粉絲團

Leave A Reply

Your email address will not be published.