.電腦視覺在智慧零售場景下的探索及應用

Microsoft Office Labs: Retail Future Vision




來源:RFID世界網 

背景簡介
隨著網路業務的快速發展,移動線下營業場所,進入了最困難的冰凍期,面臨著進店客戶減少、客戶結構不合理、精準行銷能力不足等諸多問題。

因此亟需改變以往傳統低效的業務行銷模式,加快大數據變現,開展基於大數據的精細化營運,提高進營業場所消費者行銷成功率,同時提升行銷資源使用效率,實現降本增效。
  
門市店大腦建設
移動雲計算中心圍繞人、貨、場及三者之間的關係,展開全方位的分析,運用電腦視覺(人工智慧)能力對(1)顧客身份(2)進離店客流(3)營業場所熱力情況(4)店內客戶軌跡等資訊,展開全面分析,實現了整個營業場所的綜合分析,建構了一個針對營業場所廳店營運人員的門市店大腦

以前營業場所門市店,只有消費者購買商品的數據,沒有顧客進門後,在營業場所門市行為活動的數據,沒有人與貨交互的數據,沒有貨在場中分布的數據等等。

透過人工智慧賦能的門市店大腦,這些數據你通通可以獲得。真正實現營業場所的「智慧感知」,「智慧營運」。


计算机视觉在新零售场景下的探索及应用
  門店大腦
  
顧客身份資訊辨識
「知道誰來了」是營業場所最根本的需求,透過進門時的人臉拍攝攝影機,獲取顧客的人臉圖片,傳輸到後台進行客戶身份,及常用屬性特徵辨識。

同時利用傳統的通信行為標籤,為不同類別的客戶,制訂不同的行銷策略,支持營業場所各種場景下的精確行銷。


计算机视觉在新零售场景下的探索及应用
  顧客身份辨識
  
實現困難
實踐過程發現,顧客身份辨識準確度,及有效辨識率,主要存在兩個層面的難點。
  
數據層面:
1. 人像庫照片品質:很多智慧零售場景,都缺乏優質的人像圖片,同時獲取的人像數據,存在不同程度的干擾和模糊
  
2. 能力圈命中率:提前預判誰會來店裡,降低人臉辨識模型的難度,提前將有限的人臉圖片,導入店裡人像庫(能力圈);
  
算法層面:
3. 攝影機拍攝效果:再優秀的人臉辨識模型,也很難對一些極端採集的人臉進行辨識,控制前端攝影機拍攝的效果,是辨識率的前提保障
  
4. 人臉辨識算法:人臉辨識模型的目標庫,並不能無限累加,並且像營業場所這樣場景的人臉辨識,必須在保證辨識的質(降低誤識率)和量(提升辨識人數)。
  
解決方案
針對客戶辨識的困難,設計了一套進店客戶辨識行銷和離店二次祥銷總體流程,端到端優化兩個層面的難點,進而提升客戶身份的辨識準確率。
  
針對人像庫照片存在的品質問題,系統性的對目前庫中的人像照片進行分類,總體來說可以歸為三類,清晰度較高的實景照、略帶模糊的人像照和帶有干擾資訊的人像照。

針對第一類照片,直接可以作為人像庫使用,辨識效果也是最優的對於模糊的人像照,可以利用圖像增強算法對其處理,達到銳化前景的效果對於帶干擾資訊的人像照,可以利用生成對抗網路等手段排除干擾。

總體來說,三類人像照品質依次遞減,雖可以透過視覺算法增強圖片的品質,但第一類照片的收集也至關重要。
  
針對能力圈命中率問題,透過建立事前能力圈和事後能力圈,兩種比對方案的人像庫,事前能力圈(常客模型)是根據近6個月內到店受理過業務的用戶,取到店次數最多的消費者

事後能力圈是基於信令數據,獲取營業場所營業期間,在周邊基地台範圍(人工篩選)內,出現並滿足一定停留條件的客流能力圈,用於彌補事前能力圈,命中率不高的問題同時經數據分析,顧客在一段時間內,有多次到店的行為,可以將事後能力圈反哺出來的客戶數據,作為常客添加到事前能力圈中,以增加事前的辨識率。
  
針對攝影機拍攝問題,選擇一款智慧化的拍攝設備尤為重要,透過調查發現,拍攝設備除了常規的參數(焦距、白平衡、角度),需要根據實際場景調整之外,還需具備一些人工智慧算法,才能保證拍攝的人臉圖片符合規範。

人臉檢測算法,雖然設備每時每刻,在不停的抓拍圖片,當檢測到人臉時,才會向平台上報同時,設備每秒抓取的幀數,會在25~30張,設備需要透過人臉品質,擇優算法(主要評估人臉的姿態角度、模糊情況等因素),從眾多張同一人臉中,選擇一張品質最好的上報。

此外,攝影機處理晶片的架構,也會對抓拍效果產生影響,對比DSP與FPGA片,擁有FPGA片的攝影機,每秒能處理30幀圖片,完勝每秒處理15幀的DSP,可以很好的避免業務處理性能不足的問題。

針對人臉辨識準確率問題,人臉辨識算法受不同場景影響較大,對標過多數人臉辨識廠家,其中不乏業界的獨角獸,在配合式場景(實驗室場景下),辨識率可以達到99.9%以上然而在非配合式場景,在查全率0.8的情況下,能達到95%以上辨識率的模型,已經非常不錯了,各廠家測試結果如下表。

同時,經過調查發現,大規模真實場景的樣本數據,直接決定了深度學習模型的性能,而不同場景下的人臉辨識問題,所需要不同的數據平衡、數據擬合、超參數組合。

因此,一般會基於Pretrain model (在通用的大量的數據訓練的模型)加上專用場景的數據,生成針對場景優化的專用模型,這樣可以保證,該特殊場景下的模型辨識準確率


计算机视觉在新零售场景下的探索及应用
  總體流程
  
進離店客流分析
基於雙向人臉辨識攝影機,實現進店客流群體分析,以及客戶停留分析,透過掌握營業場所客流的整體情況,即時調整營業場所營運策略。

進店客流分析 主要是獲取各時段進店客流情況,包括新客(首次進店)、常客構成,客戶的年齡、性別構成等客戶停留分析是獲取各時段客戶,在店內的停留情況,包括店內客流數,平均停留時間、過客(停留時長小於3分鐘)、意向客(停留時長大於15分鐘)等。


计算机视觉在新零售场景下的探索及应用
  

實現困難
實踐過程發現,進離店客流分析,主要有以下三個方面,造成數據統計的誤差。
  
誤差點1、 系統長時間營運,導致底庫存在過多髒數據,常見的有:存在一個人的多份特徵值,但多份特徵值所表示的含義,是不一樣的顧客
  
誤差點2、 顧客進離店時由於佩戴帽子、眼鏡等裝飾,對人臉關鍵特徵的遮擋,增加人臉辨識難度(辨識分數過低/辨識成他人)
  
誤差點3、顧客進離店行為隨意性較大,並且從兩側離店的情況佔比較多,導致拍攝的數據,存在較多側臉。
  
解決方案
針對上述誤差點1,透過建設AB庫的方案,解決目標庫(A庫)中髒數據過多的問題。客戶停留分析的目的,是保持當日進店、離店客流的數據一致性,離店數據只需要在當日進店的數據基礎上,進行辨識即可,因此在原目標庫(A庫)的基礎上,增添一個臨時庫(B庫),用於當日進離店顧客的數據分析。
  
針對上述誤差點2,在AB庫建設的基礎上,稍微降低離店人臉辨識的閾值,將盡量多的離店數據與進店數據維持一致。針對誤辨識的情況,之後將考慮使用行人辨識的方案,利用更多人體的特徵資訊(配飾、衣著),對顧客進行辨識。

針對上述誤差點3,在AB庫建設的基礎上,增加營業場所門口兩側的拍攝設備,主要針對側面離店顧客數據的人臉拍攝,當多個攝影機同時抓拍人臉數據時,系統將會合併相似度較高的人臉,避免重複人臉上報,類似單攝影機的拍攝過程。


计算机视觉在新零售场景下的探索及应用
  AB庫方案
  
營業場所熱力分析
基於顧客在店內,不同位置的累積駐留時間,分別渲染實景熱圖和全景平面熱力圖,透過熱力圖分析營業場所整體及專櫃區域的熱力分布,指導營業場所優化店內商品佈局。


计算机视觉在新零售场景下的探索及应用
  

實現困難
難點1、消費者在真實門市店空間中的精準定位,攝影機所能採集到的消費者資訊,都是在三維空間上的,需要透過空間座標關係,精準映射到平面圖上
 
難點2、線下場景下消費者的精準檢測:
1)目標(即消費者,以下都以目標代指)都以非配合時場景出現,被攝影機捕捉到的部位,或頭或臉甚至半身,對於傳統的單一任務檢測來說,難度非常大

 2)商品擺放、人群擁擠等情況的普遍存在,目標常常被嚴重遮擋,或與其他目標重疊。
  
解決方案
針對難點1,我們透過三維空間重建算法,建立實景圖到平面圖的座標映射,依次建立起每個攝影機觀察座標系,到平面空間中的映射關係,並基於特徵比對,對每個進入攝影機監控區域的顧客進行檢測,並透過映射關係,估算其在攝影機觀察座標系中的位置,透過該算法評估,顧客的平面座標誤差範圍在0.5米之內。
  
針對難點2,座過使用基於CNN + RNN的多任務結構,設計了神經網路,分別來檢測人的頭、臉及身體。其中CNN用於提取圖像中的深層特徵,RNN用於檢測複雜場景下,相互干擾的目標部位。
  
客戶軌跡追蹤
獲取顧客在店內的活動軌跡,結合區域停留時長,獲得客戶的消費傾向,給顧客在店內的行為活動,打上對應的標籤資訊,為精準行銷提供決策依據。


计算机视觉在新零售场景下的探索及应用
  客戶軌跡追蹤
  

實現困難
客戶軌跡追蹤,運用了電腦視覺領域中的行人重辨識(reID)技術,需要在多個攝影機拍攝出來的圖像中,辨識相同行人為目標。但現實場景中,客戶的姿勢變化、圖像模糊,以及目標遮擋等問題,對整個行人追蹤過程,提出了巨大的挑戰。
  
解決方案
採用混合的檢測+追蹤算法,來追蹤特定顧客,使用重辨識算法進行跨攝影機追蹤,最後透過空間定位算法(多場景統一空間映射算法),計算行人在真實空間中的位置座標,從而進行店內客戶軌跡分析。
  
檢測算法:基於CNN+RNN的多任務結構,設計了神經網路,分別來檢測人的頭、臉及身體。其中CNN用於提取圖像中的深層特徵,用於重辨識算法RNN用於檢測複雜場景下,相互干擾的目標部位
  
追蹤算法:基於相關濾波(Correlation Filter based)的追蹤算法,在線上「記住」目標的關鍵幀蘊含的特徵,並基於該特徵在影像的幀與幀之間,持續追蹤目標。
  
重辨識算法:使用STN(Spatial Transformer Network),對行人進行位置相關特徵採集,並使用Reranking特徵數據庫,進行特徵比對與檢索。在擁擠情況相對良好的情況下,可達到95%的辨識準確率。
  
總   結
透過人工智慧、大數據賦能的智慧零售,圍繞人、貨、場所構造的,針對營業場所營業人員的門市店大腦,記錄了顧客進店前、進店時到離店後的行為數據,真正實現人的消費數位化、貨的合理佈局、場的千店千面,從而打造全新客戶體驗,升級智慧營運管理,達到促進銷售與客戶雙成長的效益。





.幾天前的去年,用 Alexa 買聖誕禮物的人翻了兩倍

7 fun uses for Alexa this Christmas



3S MARKET全世界僅此這一家,發展各類智慧終端產品,只是為了讓消費者,買、買、買自家的線上商品。而其他的凡夫俗子們,大力嚷嚷IoT、AI,卻賺不到錢?仔細看他的Business Model,亞馬遜建構了一個多元豐富的購物生態,更絕的是,Amazon的智慧家庭,居然是讓你從買買買開始,讓你體驗花錢……


ifanr




每年雙十一,天貓都會用大螢幕,直播快速跳動的交易額數字。大洋另一邊的亞馬遜卻恰恰相反,一直以來都從未公開聖誕節的具體交易數據,連公司多年強推的 Prime 會員制,至今也只於今年 4 月公佈過一次——會員數超過 1 億人了

聖誕節後的隔日,依舊神秘的亞馬遜在公開聲明中宣告,今年公司的節日交易額再次刷新紀錄,全球「數千萬」用戶註冊體驗免費的 Prime 試用,單單在美國,就有「超過 10 億件」產品透過 Prime 的免費配送送出。

▲ 圖片來自 Refinery29

就和去年聖誕一樣,亞馬遜自家的智慧設備,依舊是不少人的送禮之選,比去年多賣了數百萬台,其中 Echo Dot、Fire TV、Alexa 語音遙控器和 Echo 最受歡迎。

在亞馬遜正式公佈該消息前,不少媒體已經猜到這個趨勢。因為在聖誕清晨,歐洲地區的 Alexa 語音助手伺服器,經歷了數小時的宕機,引來不少用戶吐槽,原因可能是過多用戶同時註冊和設置新的機器。與此同時,Alexa app 在聖誕當天,也登頂了 App Store 和 Google Play 的下載排行榜。

而那些原本就使用亞馬遜語音助手 Alexa 的消費者,今年似乎更願意用語音助手,來下單買禮物。據亞馬遜公佈,今年透過 Alexa 購物的人數,是去年的三倍。

▲ 圖片來 Youtube

買禮物之外,亞馬遜還從 Alexa ,以及各個智慧設備中,瞭解了更多消費者的節日行為:從大家最喜歡找什麼聖誕菜單、雞尾酒配方,到大家家的智慧門鈴都被按了多少次,都能輕易瞭解。


去年 9 月,亞馬遜曾發表會上,一口氣發佈了十多款全新的智慧硬體,可見其於智慧家庭領域的野心。而在智慧音箱方面,亞馬遜一直處於領先地位,6 月時更是為 Alexa 增加了義大利語和西班牙語選項,大大加強了在歐洲市場的優勢。

Strategy Analytics 的《2018 年第三季全球智慧音箱市場報告》來看,亞馬遜的智慧音箱,雖然在全球市場佔有率有所下降,但出貨量一直保持在領先地位,第三季的出貨量為 720 萬台,比第二位的 Google 智慧音箱多 200 萬台。

.湧進農村的科技公司,消費分級裡的小趨勢

Drones and the Future of Farming | National Geographic




ifanr


在新疆巴州庫爾勒一條公路上,行駛著一輛遼 A 牌的鈴木汽車,車頂上放著一台紅色的無人機,遠處是被積雪覆蓋的天山山脈南麓,沿著盤山公路行駛,沿途可以看到開闊的自然景觀和隨意覓食的羊群。


這輛車被一個江蘇農業從業者駕駛著,2018 年的夏天他從江蘇前往東北遼寧,用無人機給當地的水稻噴灑藥劑,隨後在秋天前往新疆,用無人機給棉花噴灑落葉劑。於是就有了前文的這個場景。

綁在車頂的這架無人機由極飛科技生產,這家早期生產航模、航拍無人機的無人機廠商,目前已經透過農業無人機,轉型成為一家專注農業領域的科技公司。

發生在農業噴灑領域的小變化
12 月中旬,極飛科技發佈了新款的農業無人機、農業測繪無人機,並發布了自身在農業領域的數據和新計劃。


2019 款 P 系列植保無人機,在結構強度和撞擊保護上比前代提升 30%,具有 IP67 級整機模組化防水性能,可裝載最大 16 升的藥箱。無人機整體採用了模組化設計,機臂也可以實現快速拆卸。


該款無人機的最大飛行速度為 12 米每秒,據稱每小時空中噴灑效率可達 210 畝,但無人機的飛行速度、噴灑幅度、飛行高度,都需要根據實際場景進行調節,這個噴灑值並不是通用場景下的常用值。

在飛行性能方面,這款農業無人機具有四向雷達,可以在前後左右四個方向進行避障。飛機的下方還有一個雷達,可以讓無人機噴灑時,能夠沿著農田的起伏進行仿地飛行。

使用 RTK 技術進行定位的飛行無人機,飛行精度可以達到分米級甚至釐米級,當無人機與 RTK 斷連後,飛行精度會下降。而極飛上一代的農業無人機,能夠在斷接 RTK 60 秒內依然保持高精度飛行,這一代則是升級到支持 600 秒。

▲ 農業無人機沿防風林飛行的影片

這些避障和定位技術,讓依靠四支碳纖維螺旋槳飛行的幾十公斤龐然大物,能夠在大型農場裡,做到貼著防風林飛行。

極飛公佈的數據顯示,截止到 11 月 30 日,極飛在營運的無人機為 21731 架。極飛生產的無人機,今年在黑龍江一個省份噴灑的水稻面積超過 1200 萬畝,新疆五分之一的棉花落葉劑噴灑佔比,由極飛無人機完成,而新疆棉花的種植面積佔中國的 80%。

農業無人機帶來的場景革命
事實上,在東北三省、新疆、河南、湖北、江蘇這些有著大片農業種植面積的地區,一些農業從業者所使用的技術,比我們想像中的要先進。

▲ 廣西甘蔗田裡配備自動導航系統的約翰迪爾播種機,圖片來自:deere.com

在播種和收割環節,具有自動駕駛能力的約翰迪爾拖拉機,已經穿梭在農田間精準地穿行,而一二線城市裡熱議的自動駕駛,依然只是存在媒體新聞和極為狹小的試用路段和場景裡。

▲ 約翰迪爾拖拉機上自動駕駛所用的顯示器

能夠做到一鍵起飛、自動飛行和噴灑的農業無人機,開始承擔噴灑農藥的環節,這些工業設計、智慧程度、系統設計,在全球範圍內也屬於領先地位。

無人駕駛的播種機和收割機依然是拖拉機,但能夠飛在空中進行噴灑的無人機,對於人力和拖拉機而言,就是一種降維打擊。

但不可否認的是,傳統的農業種植方式,依然在中國佔據主導地位,整個植保無人機行業,在中國的作業總面積,佔中國耕地面積不足 5%,使用植保無人機提供服務的人數不足 5 萬。這兩個數字與中國耕地面積、農業從業人口、農業人口相比起來,微不足道卻又不容忽視。

這也讓科技在農村地區、農業生產領域有著更為廣闊的市場。因為只要在這些場景和用戶中,找到一個特定的切入口,就有改變一整個行業的可能性。


極飛以農業無人機作為切入口,目前依然是提供農業測繪無人機、農業植保無人機的硬體廠商,在改變農業植保噴灑方式的過程中,已經聯動農資、農機市場進行革新。

而利用無人機、視覺辨識、人工智慧這些新的技術,結合不斷注入的農田土地資訊,和農作物生長數據,其中還能衍生出很多可能性,比如農業金融、農業資訊系統等等。

曾任中國社會科學院世界經濟與政治研究所副所長的北京大學教授何帆,在得到 App 的專欄裡,評價極飛實現了「尋找邊緣」和「技術賦能」。極飛為「無人機」這個新技術,找到了「農業」這個應用場景,是為技術找到了切入市場的邊緣口子。

透過提供培訓和服務,讓農民在使用無人機的過程中,獲得更多在農業領域的機會。這就是一個用技術為農民賦能的過程。

一個有賦能機會的場景,很可能在邊緣的無人地帶,這個場景可能很廣闊。

無人機技術在農業裡的應用,何帆認為這是中國的一個「小趨勢」。

無人機技術、機器人技術和人工智慧技術,它們對農業生產帶來的效率提升,或者組織形式的改變,還沒有成為主流。但在世界不同的地方,都有一小群人在使用這些技術去改變,這個群體的人口雖然相對較少,但能夠產生與其人數不對稱的強大影響力。

技術的進步、平台的出現,以及小群體對自身的認同感,是「小趨勢」形成的原因。這個詞語最早被美國著名的民意調查專家馬克 · 佩恩提出,當時指的是佔美國人口 1% 的群體出現的變化,這些變化能引起一系列的影響。

消費分級是群體的異同被放大
極飛這種將無人機應用於農村植保的模式,不僅代表著對岸國內的一個「小趨勢」,也是對岸國內網路公司紛紛轉向三四五線城市,和農村尋找商機的一個側影,也是對岸國內消費分級的一個體現。

由於對岸國內一二線城市的用戶增量阻力越來越大,不少科技公司正在將目光和市場投向三四五線城市以及農村。

網路+ 農業這個概念,從 2015 年開始成了紅海,農業電商、農業物聯網層出不窮,然而它們並沒有撬動農業生產裡低效、落後的環節,沒有撬動,就更別提改變了。

長久以來,農業生產靠天吃飯的特性,讓農村自有一套機制,來抵御風險與降低成本。傳統農業自有一套建立在人際關係上的互信網路,也有一套建立在經驗上的生產方式。這些年想要去佔領農業市場,或者打造農業品牌的網路公司不少,但那些試圖去破壞這個平衡的網路公司,幾乎都沒有做出太大的聲響來。

此外,由於各地擁有不同的種植環境、農業政策等,會讓不少涉足農業的網路公司感嘆,「農村的套路,比城市的要複雜多了」。

然而在農村地區,可以改變並且需要改變的並非只有農業。三四五線城市和農村,各個方面未被挖掘和滿足的需求有太多。

▲ 快手博主手工耿,圖片來自手工耿视频

月活 2.5 億快手 App 裡的土味視訊,在佔據鄉村用戶的空閒時間,滿足他們的娛樂需求;美國上市的拼多多,透過在微信中的拼團和砍價,在三四五線和農村地區收穫大量用戶;在刷牆業務的村村樂,從 2015 年開始接到越來越多淘寶、小米、優酷、網易這些網路公司的訂單……

螞蟻金服集團副總裁陳亮,在極飛年度大會上,講述了他們對農村業務的展望,以及對農村市場的看法。

支付寶從 2016 年就開始與極飛開始合作。包括在支付寶服務窗推出「一鍵呼叫極飛無人機植保服務」的業務,以及農戶憑借芝麻信用分,就可以用遠低於市場價的押金,租用最先進的植保無人機設備,甚至獲得免費的植保培訓等優惠。

陳亮認為,雖然不少人在近段時間比較焦慮,都在討論消費降級和冬天來了,但從螞蟻金服和阿里巴巴自身的數據看來,不同地區的消費在出現變化。

如今一二線城市的消費力會出現一些所謂的下降,但是在廣大的三四五線或者農村地區,正在出現一波消費升級,他們支出的水平跟一二線城市的差距在縮小。

我們不認可「消費降級」這個詞,我們認可的是「消費分級」這個詞。

消費分級,目前依然是以城市發展水平作為標準粗略地劃分。實際上,一到五線城市和農村群體,他們在年齡、人口構成、受教育程度、收入、觀念、消費水平、地域環境等多個維度有著疊加的異同。

這些異同,是無數小群體的共同性和差異性。個體依靠某些維度的共同性形成小群體,而各個小群體之間存在著差異性。通訊的空前便利,網路等新技術的普及應用,在同時放大這些群體的共同性和差異性。

群體是碎片的,也是圈層的。學會在消費分級和「小趨勢」中區分主流與小眾、目標用戶與邊緣用戶,這或許是接下來公司和創業者們進入三四五線城市和農村市場的第一課。