第二十八次 Raspberry Pi 社群聚會會後資料，希望透過社群活動的分享和交流，找到更多 Raspberry Pi 的可能。本次主題是「樹莓派上的台灣創新專案」。過往資訊可看共筆，報名可到 KKTIX。

樹莓派自 2012 年問世後，歷經多次改版，最新的型號是 Pi 4。一開始是在教育用途上，但現在許多商用領域也可以看見樹莓派的身影。台灣也有許多公司使用樹莓派做專案或是做產品，這次的聚會有兩家台灣新創團隊分享了他們在樹莓派上的應用。

這次主題吸引很多同好來瞭解技術細節，天瓏書局 2F Coding Space 又被我們擠爆了。

第一位是 CloudMosa 的 Swind，負責軟體測試開發。

CloudMosa 是 沈修平博士在 2009 年創立，目前公司的主要開發人員在台北。

Puffin Web Browser 是 CloudMosa 的主要產品，是一個專注在手機上的網頁瀏覽器應用程式，目前全球累積一億的下載量，DAU(Daily Active User, 日活躍使用者)有兩百萬人。而 Puffin Internet Terminal 將是今天要介紹的主題。

除了 Puffin Web Browser 和主打教育市場的 Puffin Internet Terminal 以外，CloudMosa 正在做可以跑在手機上的 Puffin OS ，希望能讓低階手機更為普及，彌平世界數位落差。

Puffin Internet Terminal 是一個瀏覽器的解決方案。能讓 Raspberry Pi 3 Model B+($35)的瀏覽網頁體驗可以媲美要價上千元 ChromeBook，並降低使用網路取得資訊的門檻。
由於學校單位大量使用 Adobe Flash 技術，Puffin Internet Terminal 可以跨平台和跨瀏覽器的特性讓許多教育單位採用。

由於越來越多的應用程式是以網頁(Web)的方式呈現，因此 Puffin Internet Terminal 的高效能也是主打特色之一。Swind 也展示了和 Chromium 的效能比較，是使用 JetStream 做評比，分數越高越好。

為什麼 Puffin Internet Terminal 可以這麼快？ 這其實是 CloudMosa 累積了多年的軟體工程能量達成的。簡單說可分為這三個部份。
1. 大幅降低 Client(和樹莓派) 端運算需求。
2. 節省大約 70% 資料傳輸量。
3. 強大且快速的伺服器與網路。

要介紹 Puffin Internet Terminal 就直接介紹 Puffin Browser，兩者在架構上是一樣的。Puffin Browser 的架構是，用戶端(Browser)不會直接連到 Web Server，而是透過 Puffin Cloud Server 向 Web Server 做請求，再回傳到用戶端。這樣的技術似乎和 Proxy 很像，但 Proxy 雖然會做快取(cache)或是壓縮，但並不會幫忙做運算，因此傳回到用戶端的資料還是需要用戶端即時運算顯示。這樣的問題是現行的網頁特效很多，如果將運算都移到用戶端，那用戶端的裝置需要在一定的規格以上才能有良好體驗。

所以 Puffin Browser 就像是一個 Remote Browser，幫用戶端在 Puffin Cloud Server 運算完畢後再將運算結果回傳。也因為雲端已經做完運算，等於節省用戶手機上的運算流量，幫沒有網路吃到飽方案的用戶省下費用。

Puffin Browser 能跑得這麼快的第二個原因是歸功於 Puffin Cloud Server 的佈建。CloudMosa 目前有三個資料中心(Data Center)，近萬台獨立的中高階實體伺服器與擁有近萬個 Public IP，這樣就可以快速的和全球各地的網頁伺服器進行高速傳輸。
除了架設伺服器做 remote browser 以外，Puffin Browser 可以用資料中心超快的網路去 Web Server 取得資料，還能因此大量減少 Client 與 Server 之間 資料傳輸的次數以及傳輸量，達到快速的回應時間。

而 Puffin Internet Terminal 針對 Raspberry Pi 的優化包括有。
1. 因為效能考量而不使用 Windows 版本正在用的 React Native，改使用 GTK 重新開發。
2. 支援 Raspberry Pi 的 GPU。

大家對於 Puffin Internet Terminal 後端的運作原理非常感興趣，對資源分配與安全性等都提出相關問題。因此 CloudMosa 的 Brian 在 QA 時間也回答了許多技術細節。

Puffin Internet Terminal 採取訂閱製，現在正在大特價，每個月只要 USD$1 就可以讓你的 Pi 快速和安全，非常適合學校單位、國安單位、軍方單位使用。

當 Puffin 瀏覽器跑在 Raspberry Pi 上 Puffin Internet Terminal 的投影片。

第二位來分享的講者是 DT42 的技術長 Bofu。

DT42 成立於 2015 年，是由一群對數據分析、深度學習與運算系統充滿熱忱的資訊工程師與數據工程師組成的合作團隊，團隊成員均曾於軟體開發、影像辨識專業單位，擁有豐富的技術能量，專長包括數據分析、智慧機器學習、嵌入式系統開發、智能圖像辨識等專業領域，我們利用嵌入式系統開發、資料科學以及人工智慧演算法方面的專長，降低了人工智慧應用開發門檻，不僅支援多種資料型態，且能簡易地被佈署到多樣化的硬體平台。

BerryNet 是 DT42 在 2017/04 年的開源專案，使用者(或開發者)可以透過 BerryNet 快速的在 Raspberry Pi(或者其他裝置) 上打造 AI Gateway，利用 Raspberry Pi 做運算深度學習，對影像或語音做即時分析。
在 2017 年時，DT42 展示了使用 BerryNet 在 Pi 3B 上進行物件偵測(Object Detection)可以達到 1FPS，在當時是很先進的。

AI Gateway 的經典範例就是一個 AI + IoT 的實際情境。例如有一隻貓來到你家後院，可是你想把他趕走，而不用花費人力，該怎麼做？
答案有很多，其中一個可能是架設一個 BerryNet 把貓嚇走。

當你架設好 BerryNet 以後，就可以透過自訂的攝影機將影像串流到 Raspberry Pi，再透過 BerryNet 內建的深度模型進行物件偵測。當有偵測到貓時就透過 WiFi 或是其他協定控制灑水系統進行灑水驅趕貓咪。
在這個情境中，物件辨識就是屬於 A.I.，而控制灑水系統則是 IoT 的概念。BerryNet 可以在樹莓派上完美的整合這兩者，成為 AI Gateway。雖然貓咪不一定會如你預期的被嚇走，搞不好還會玩的更開心 QQ。

Bofu 再利用 YouBike 的演進說明了 Server AI 和 Edge AI 的分別。在過去，所有借還 YouBike 必須要先使用悠遊卡在 YouBike 的基站感應，而該站台會連回雲端主機，有著運算資源充沛、中央控管和容易追蹤各裝置狀況等優點。但也有受到基礎建設的限制或是佈署花費較高等缺點。這樣透過基站來計算處理資訊的方式稱為是 Server AI，也就是 YouBike 1.0。

而如果現在使用 YouBike，會發現使用體驗更順暢。包括了將基站主機的功能隱藏到每台車上成為各別的閘道器，所有感測資料就透過閘道器和雲端連線，有便於攜帶、容易部署和整體成本較低等優點。但有著受到本地運算機之運算資源限制和分散式系統個別更新不易等缺點。這樣透過各別低價的閘道器和和雲端主機直接連線做資訊交換，甚至多數的計算功能可以在閘道器上直接處理掉，這樣的方式稱為是 Edge AI，也就是 YouBike 2.0。

BerryNet 希望成為 AI 和 IoT 的橋樑。目前各家廠商都有提出自己的 Framework，例如 Facebook 的 PyTorch、或是 Google 的 TensorFlow。許多硬體廠商，例如 Intel 也有推 OpenVINO 或是 NVIDIA 的 TensorRT。
如果你只想要做個簡單的 AI 應用，光是選哪一套框架就會開始苦惱了，何況要控制後端的硬體控制又要再學習一堆硬體相關知識。那 BerryNet 提供了一個彈性的架構，讓使用者可以快速的整 AI 和 IoT 這兩端，專注在應用方面。

BerryNet 的架構可以從這張圖來說明。使用者會有多種 I/O 裝置，例如攝影機、麥克風或是要控制的硬體。而這些 I/O 裝置會透過 MQTT 的協定和 Raspberry Pi 溝通。而 BerryNet 整合多種深度學習模型，讓使用者可以透過指令列就能指定輸入/輸出設備，並設定適合的網路模型與參數，快速的部署一個 AIOT 的應用。

整個操作情境，可以這樣舉例。如果你有一個手機當作影像的輸入來源，接著在 Raspberry Pi 跑 BerryNet，你就可以很輕鬆的透過可能是 RTSP 的協定將影像接到 Pi 上，並初始化 BerryNet 上的 TensorFlow Lite，決定好儀表板的顯示方式輸出到外接螢幕，如此一來我們就完成一個 BerryNet 的基本設定。

接著我們就可以在螢幕上顯示推論結果(Dashboard)，例如物件辨識，將辨認出的物體標記出來。

根據上一個範例，你可以發現使用者很輕鬆的就可以搭建出 AIOT 的應用，當然你會需要先準備一些硬體，包括 Raspberry Pi 和 Pi Camera 等。
如果你不想準備這些硬體與額外的設定，DT42 也在 Kickstarter 發起了 AIKEA 的群幕專案，標的物是是家庭的私有攝影機。但如果你仔細看專案說明，就會知道支持者最後會拿到 Pi 4B 和 Pi Camera 還有一個外盒。這是 DT42 團隊想要表達，使用者不需要花大錢買昂貴的硬體，只要使用手邊的裝置就可以建構出 AIOT 的應用。

甚至 DT42 非技術性的專案經理，可以在一天之內從無到有使用 BerryNet 做出一個 AIOT 的應用。該應用是可以偵測過馬路的行人是否為長者或是行動不便的人士，而根據行人來決定是否要延長紅綠燈的秒數，能減少更多交通意外發生。
當然如果要做這樣的應用，使用者會需要蒐集足夠的影像來訓練模型才行。但這樣的範例告訴我們，很多使用者有很實際的應用，但因為缺乏技術性所以無法實做並驗證這些應用，而 BerryNet 可以快速打造 AIOT 應用，降低了人工智慧應用開發門檻。

最後，Bofu 的 Live Demo 是使用手機收影像後，透過 RTSP 傳到 Pi 4 上的 BerryNet 即時做人物偵測。在沒有額外的硬體加速器的情形，大概有 5FPS 左右。

BerryNet – The first deep learning gateway for edge devices 的投影片。

我們很高興能邀請到台灣的一些新創團隊來社群聚會分享，讓更多人看到台灣的創新能量。如果大家有想分享的主題，可以來信告訴我們(service_AT_raspberrypi.com.tw)。