【亮見】智能時代 社交機器人如何扮演辟謠角色

近日，北京師范大學新聞傳播學院教授、博士生導師、新媒體傳播研究中心主任張洪忠，接受由中央網信辦違法和不良信息舉報中心、中國互聯網發展基金會主辦的“澄清謬誤、傳遞真相”系列辟謠訪談邀請，做客中國互聯網聯合辟謠平臺，就“信念溝”現象如何影響辟謠信息輸入、智能時代社交機器人如何發揮辟謠角色等話題，繼續為您提供獨特視角與專業洞察。

中國互聯網聯合辟謠平臺：如何看待“信念溝”現象？

張洪忠：“信念溝”是一個很重要的互聯網現象。觀念相同的人，就會形成一個群，觀念不同的人，可能就退群，另外組成一個群。我們很多信息，可能就在觀念相同的人群里傳播，互相強化他們各自已有的認知。有案例說，在美國，還有幾百萬人相信地球是扁平的，而且有自己的網站、視頻、社區和“世界扁平說”大會。他們形成一個封閉的群體，相信的人是一個群體，不信的人是另外一個群體。信息互相隔絕。比如，那些相信醋能治療防止新冠病毒感染的，可能拉一個群，討論什么醋好，不相信的人就退出來了。這就形成一個“信念溝”。我們怎么樣把辟謠信息輸送進去，讓他們知道，并說服他們。這是一個比較復雜的工程。辟謠工作是一個系統的科學，是基于我們社會科學、互聯網群體結構的研究等基礎之上。這樣來做辟謠，會更有針對性和更有效。

中國互聯網聯合辟謠平臺：社交機器人的出現，對于辟謠來說，您覺得是一個機遇還是挑戰？

張洪忠：什么是社交機器人？是在社交媒體平臺上，有一些人工智能的產品，以人的身份形成一些自動化賬號，自動發送信息，能夠跟你溝通交流。這種人工智能的技術，我覺得可以用在我們辟謠里面。不僅可以節約大量的時間，還可以幫我們辟謠，達到事半功倍的效果。因為它的傳輸速度、擴散速度不是人工可以比的，而且是主動地去傳，去推送，會非常有助于我們抑制謠言的擴散。

中國互聯網聯合辟謠平臺：從另外一個方面來說，社交機器人也有可能制造謠言，應該如何管控？

張洪忠：社交機器人是一個人工智能的技術，是一把雙刃劍。社交機器人有“善意的機器人”，也有惡意地運用社交機器人的現象。面對被惡意運用的社交機器人，我們怎么應對？第一，首先要有社交機器人的識別系統，從網絡結構特征、蜜罐法等方面，通過機器學習來做識別。因為社交機器人作為一個人工智能技術產品，它的技術水平、對話水平在不停地升級迭代。比如出現一種大規模的謠言，應該馬上來做一個識別，這是人做的自然的擴散，還是有人故意用社交機器人操縱或發布的？如果說是自然形成的，那么我們就從社會心理的角度，去應對解決謠言。如果是機器來擴散助推的，那么這就是惡意地制造謠言，故意混淆視聽，我們就要用技術的手段進行識別，并做溯源處理。這些信息是從哪里發出來的？是怎么發出來的？這樣我們才能掌控謠言的流向，并用技術的手段來應對，而不是用人工的手段去應對。

中國互聯網聯合辟謠平臺：社交機器人在謠言應對和辟謠過程中，將扮演什么角色？

張洪忠：今天我們的信息傳播已經由農業社會的手工作坊，變為信息化社會的機器生產。由于我們的信息生產和擴散處于這種狀態，那么我們就要用機器的手段來做一些辟謠的工作，讓社交機器人幫我們辟謠，幫我們擴散一些正確的信息，這樣兩邊的量級才是對等的，辟謠才是更有效的。