Friday, October 5, 2007

Again - You Want Innovation, Offer a Prize

又是一個 You want Innovation, Offer a Prize 的例子,微軟在今年(2007)九月初宣布,提供總額一百萬美元的獎金,鼓勵學術界在 Sematic Computing 和 Internet Economics 領域的創新研究。

研究計畫得到微軟認可的單位,可以取得使用 Live Search query log 的權力,對於研究者,資料的誘惑是想像不到的大呀....
To advance academic research and publication in the area of Internet Research and, in particular in data mining, information finding, information supply, and Internet economics, Microsoft intends to make available to the RFP awardees a Microsoft adCenter Search query log excerpt with 100 million search queries along with ad click logs sampled over a few months, and a Live Search query log excerpt with 15 million search queries with per-query search result clickthroughs “(execution of a limited license for use of these assets will be required). In addition, Microsoft adCenter will provide advertiser accounts to all winners.
微軟同時還提供總額百萬美元(每個獲獎計畫伍萬元)的金錢獎勵給提出計畫的研究單位...
The total amount available under this request for proposals (RFP) is $1,000,000. Microsoft Research anticipates making approximately 20 awards averaging $50,000, with a maximum of $100,000 for any single award. All awards will be made in $US. Awards are generally made as unrestricted gifts to the institution.
當時我正忙得昏天黑地,壓根沒注意到這則新聞,直到這兩天從「舊聞」中翻出來,才注意到這則消息。可惜我沒這個本事,要不然,我還真想.....


[資料來源]:Beyond Search – Semantic Computing and Internet Economics Request for Proposals 2007

慚愧

回首的圖像
想起來自覺有些靦靦。這本書買來已經年餘,當時從書店買回來,只略略翻看一下,便上了書架,沒想到一上書架就再沒有取下來。日子總是忙忙亂亂,要做的事很多,要讀的書也很多,終於沒有輪及讀這一本書。
不知從何時開始有了這個習慣,每隔一段時間,總會依著當時的心情,重新安排書架上書籍的排列,上下搬動、左右游移時,邊拂拭著書脊的塵埃,邊對著冷落許久的書籍致意。

口裡唸唸有詞的、心裡默想的,為自己的憊懶開脫的心情,竟和上面這段錄自林文月教授寫的「陽光下讀詩」(出自散文集回首)的文字如此相似。有時候幾乎要相信,上面這段話是自己寫的....

Thursday, October 4, 2007

Netflix Prize 滿週年了

Netflix Prize 滿一年了。

提供線上租賃光碟服務的 Netflix,在去年十月(October 2, 2006)設立了一個推薦系統 (Recommender) 的競賽,鼓勵全世界的研究團隊,以 Netflix 目前使用中的推薦系統 Cinematch 為競爭標的,比 Cinematch 推薦績效高過10% 的團隊,將獲得一百萬美元的獎勵。這個比賽將持續到 2011 年(比賽時間從 2006年10月2日到2011年10月2日),依照競賽規定,除了冠軍之外,每年度還有五萬美元的進步獎(Progress Prize)。

提到推薦系統 (Recommender) ,網路書店亞瑪遜(Amazon 現在可能要稱為百貨公司比較恰當了)和 Netflix,一直是最為大家稱道的兩個模範生。這兩家公司,都有自己的演算法研發團隊,Amazon 在演算法方面的投資一向驚人,他們還高調的寫文章在學術期刊談由亞瑪遜員工自行開發的演算法,並且為演算法申請專利(補充:有部落格作者認為 Amazon 使用的技術就是 Association Rules ,我想是個誤會, Amazon 目前的推薦系統,應該是以上面所介紹在 IEEE Internet Computing 發表的 Item-based 演算法為核心,Amazon 當然用了不只一種技術,不過以 Amazon 目前系統的複雜和成熟程度,不是關連法則一種技術可以做到的,所以兩者之間畫等號是不恰當的)。

Netflix 也有自己的研發團隊,持續改善他們的推薦系統,雖然 Netflix 沒有在台灣地區推展業務,在台灣的知名度可能不高,不過如果用 BLOCKBUSTER(百視達) 的網際網路版本來介紹 Netflix ,我想大家對於 Netflix 的業務內容就會有概念的多了。

Netflix Prize 的消息傳出之後,在學術界和技術評論文章作者圈裡,激發出不少迴響與火花,紐約時報的專欄作者 David Leonhardt 撰文形容這個舉動是需要創意嗎?發獎金吧;有些部落格的作者(比如說 Greg Linden),定期追蹤這個比賽的進度;也有人從競賽的評分方式著手,批評這個比賽是象徵意義大於實質意義。

(補充: Greg Linden 是上面提到的 演算法 ─ Amazon.com recommendations: item-to-item collaborative filtering ─ 的共同作者之一,Greg 於1997-2002 間在 Amazon 任職,負責開發推薦系統)

筆者最關心的,則是參加比賽團隊的背景(有沒有華人參加?有沒有台灣的團隊),這些團隊參加比賽所提出的研究成果,是不是會影響,甚至豐富這個研究領域的出版。今年上半年,筆者嘗試從這個獎金專屬網站leaderboard,找到各個團隊的背景,以及各團隊成員的出版文獻。但是 leaderboard 所能找到的資料,都是為了參加比賽所做的寥寥數行自我介紹,幾乎找不到有用的資料,只好悻悻然的放棄。

今年下半年, Greg Linden 的部落格,提供了更深入的追蹤資料,找資料的過程總算漸入佳境;才舉行過不久的KDD 2007,由 ACM SIGKDDNetflix 共同舉辦的Workshop,發表了不少和這次競賽有關的論文,終於讓我解惑,滿足了我的好奇心。

在剛開始動筆 文章介紹 Netflix Prize 時,就已發願繼續寫一系列的延伸報導,從 Recommender 的研究動機與背景談起,將自己的唸書心得,以及在產業界所見所聞引發的某些想法,都包羅進來。但是前一陣子,恰好有些私事,又要準備參加考試,所以收集資料和動筆的腳步在前幾個星期放慢下來。

直到前兩天,原先佔用大部分可用時間的某些負擔,終於告一段落,決定重新整理原先的筆記。但是今天用 Bloglines 看文章(有資訊收集癖好的我每天必做的功課)時,在某個部落格的文章見到 Read/WriteWeb 在年初就已經發表了非常深入的報導。

Read/WriteWeb 在今年一月(January 16, 2007)發表由 Alex Iskold 寫作的文章 - The Art, Science and Business of Recommendation Engines,這篇文章不僅用流暢的文字說明產品推薦 (Recommender)機制之所以重要的原因,同時還介紹了目前實際商業運轉的推薦系統有哪些不同的作法,而且以圖文並茂的方式,以實例說明介紹推薦系統與消費者互動的運作。文章內容深入淺出,而且有豐富的圖片做輔助,對於非技術背景的讀者,是篇不可多得的好文章。對於推薦機制的背景有興趣的讀者,千萬不要錯過這篇文章;以迅速翻譯網際網路相關文章著稱的大陸網站譯言,在今年二月份就把這篇文章翻成中文,如果不想看太多英文字,可以試試這個版本

Alex Iskold 的文章,很成功的把推薦機制的背景交代清楚,我不需要再 reinventing the wheels (我不大可能比 Alex 做得更好 - grin)。因此筆者嘗試從技術的角度,勾勒出推薦系統至今的研究方向,和未來的挑戰。並從這個角度的分析繼續延伸,試圖找出成功的資料探勘專案,最起碼的成功要素。

推薦系統的研究,可以上溯到1990年代初期,經過十幾年的努力,推薦系統已經變成資料探勘領域裡獨立的研究分支,在2005年有學者發表一篇推薦系統領域的回顧文章 - Toward the Next Generation Recommenders: a survey of the state-of-the-art and possible extensions,作者用一個簡潔的數學模型的定義,完整描述推薦系統的運作。

根據這個模型,推薦系統的工作方式很簡單,一是預測:使用由研究者事先定義的數學模式,計算消費者對於不同產品的喜好度;二是推薦,經營者根據前述的計算結果,再參酌企業的經營限制與目標,執行「推薦」或其他相關的行銷活動,以達到經營的目標。

個人認為,這個模型特別值得注意的重點有兩個,第一是這個模型要求各項數據必須充分量化,才能以函數的方式描述運算邏輯,並製作計算的程式,計算的結果,也是以量化方式,表示推薦強度。其次,個人認為這個模型裡最重要的一點,就是把消費者的反饋加入模型,這個因素的加入,改變了推薦系統所要解決問題的範圍,和解決問題的方式。這樣的模型,讓推薦系統在技術上的需求,跨越了單一工具類型的演算法,比如說關連法則(association rules)、決策樹(decision tree),而是以更豐富、多樣的數學工具來達成目標。

(請見上圖,Amazon 會員以1-5顆星的評等方式,輸入他(她)對商品的喜好程度,這就是將消費者的反饋以量化方式儲存、建模的最佳範例)

曾經在網路書店亞瑪遜(Amazon)購書的消費者,對於它的評價系統(上圖就是推薦系統請使用者對產品評分的畫面),應該都印象深刻。被 Alex Iskold 稱為 King of Recommendation 的亞瑪遜,結合消費者的個人背景資料、消費紀錄,以及將消費者對於產品好惡反應量化的數據,設計他們的推薦系統。亞瑪遜的作法,就是這個推薦系統模型的最佳體現。

用亞瑪遜的創辦人 Jeff Bezos 自己的話來說明亞瑪遜對推薦系統的理念,是最清楚不過了:
Our vision is that if we have 20 million customers, we should have 20 million stores.
以書籍為例,推薦系統嘗試解決的問題是可能是這樣的:我知道客戶買了魔戒龍槍系列的小說,客戶會不會喜歡東方色彩的蜀山劍俠傳?喜不喜歡獅子、女巫與魔衣櫥?若我向他推薦J. K. Rowling (哈利波特的作者)寫的系列小說,成功機率多高?

更複雜的問題可能是這樣的:客戶買了魔戒,而且在書評系統裡,給這本書很高的評價,滿分十分,他給九分,那麼如果我們推出限量收藏版,推薦他購買的機會高不高?如果是推薦他購買哈利波特,預估他的反應是什麼?

有了推薦系統,企業主先計算特定消費者對各項產品喜好的傾向,從而決定促銷標的和手段。這就是我們看到的網路書店模範生─亞瑪遜─的運作方式。用最淺白的話來說,推薦系統根據消費者的交易記錄、商品的內容、消費者對於產品的滿意度資料,預測消費者對於各種產品的接受度,經營者根據預測的結果,做相應的行銷安排,將所有資源用在最可能有產值的地方 (這是賣方 supply-side 的觀點,那買方的觀點是怎麼樣的呢?)。

回到技術問題的角度,推薦系統的演算法不是由單一的技術構成。不同產業的產品性質差異可能很大,不同的業者對於資料精粗程度的掌握也不同,因此推薦系統的演算法使用來自各領域的技術,不同的研究者所偏好的數學工具也可能不同,更豐富了工具的複雜度。

因此,不論是關連法則(association rules),還是叢集(clustering)、決策樹(decision tree),都可能是某個推薦系統的構成元件之一,一個完備、有用的推薦系統,定是眾多研究領域的綜合成果的展現。

真正商業化的推薦系統,除了計算預估值的數學模式之外,還會加入其他商業、行銷領域的理論元素,每個企業的行銷目標與理念,必然有各自的想法與堅持,將這些理念融入推薦系統的運作,才是完整的推薦機制。而後者,已經超越了演算法的層次,不是單純購買運算資源(computing resources)或設計演算法(algorithms)可以克竟全功的,畢竟那已經超越 CIO 處理的層次,也不是本文所探討的課題了。

今天先談到這裡,下回再談推薦系統的分類(taxonomy),和延伸的想法。

延伸閱讀:

Sunday, September 23, 2007

色易戒,情難守

老友金剛最近發表一篇「色戒」的影評,值得一讀,我最喜歡看這種寫給正常人看的文章,他點出了內行人(這是他大學的主修)才看得出來的門道,但又不會滿紙堆疊「暗喻」、「割裂」、顛覆」、「解構」、「現代」、「文本」之類,只有鬼才看得懂的文字。看金剛的文字,沒有什麼負擔,看完後,才發現流暢文筆背後承載的重量,這種舉重若輕的功力,是令我所深深佩服,也有點「嫉妒」的。

總之,『色易戒,情難守』,人性才是李安的終極關懷。強烈推薦金剛的文章 - 色戒,Lust Caution。Youtube 上可以找到色戒的預告片,有興趣的人不妨去挖寶...



如果還想更進一步瞭解這部片子的背景,亞洲週刊最近刊了一系列和色戒有關的文章,作者包括李歐梵、龍應台、陳之岳等人,文章的份量都不輕,頗值一觀。亞洲週刊的網站不提供「免費」文章內容,一定要週刊訂戶才能看到文章內容。有人將龍應台和陳之岳的文章,轉載到一五一十部落,有心人請自行上網看看,至於這種轉載是否有版權問題,你的心裡自有一把尺,筆者不表示任何意見。

張系國當年為了色戒一文,還和張愛玲打了一場小小筆仗 (請看批張愛玲色戒作家張系國再成焦點),有時候,我們不得不承認,所謂的「境外」媒體,比起我們所熟知的藍藍綠綠媒體,在深度和廣度上都精彩多了,sigh...

Tuesday, September 11, 2007

千萬不要不信邪

今天的題目 ─ 千萬不要不信邪 ─ 雖然有點拗口,但卻是我在職場打滾多年,以血淚換來的經驗之談。相信許多人在媒體看過,某個大老闆相信風水、相信命理、相信這個、相信那個的報導,媒體上不乏以此做文章的花邊報導。我不是要說這個,不是要鼓吹怪力亂神之說,只是在職場裡經歷了許多無理、曲折、錯愕與驚喜之後,不由得不謹言慎行,不想敏感的神經受折磨,讓內心承受的壓力小一點。

有個小故事,可以表達這種心情,也算是 911 的應時之作吧 ...

這件事發生在911事件的那個月,那時我在一個大型企業的資訊部門任職,有天公司裡一位主管來找我,希望資訊單位配合他,製作一個新的系統。

他認為網際網路應該是公司與(現有及潛在)客戶間重要的溝通管道,客戶應該透過網際網路瞭解公司的產品、直接下單,並且希望能將這個網站打造成客戶服務與管理(就是CRM啦)的入口。這個案子眼光遠大,企圖雄偉,作為戰鬥支援單位的資訊部門,當然沒有拒絕合作的理由。

有了想法,下一步就是爭取預算,所以我們決定在半個月後的集團主管會議,提出這個構想,爭取大老闆的認同,拿到這個案子的預算。於是我們一邊爭取將簡報排入議程,一邊埋首製作簡報,準備期望能一舉成功,順利爭取到案子所需的支援(與資源)。

於是我們兩個(自認為)打滾江湖多年的老手,泡了一壺茶,在他的小房間,由他親自操刀,製作簡報所需的檔案。在製作的過程裡,我們做了縝密的沙盤推演,設想可能會遇到的詰難,準備了針對各式問題的說帖,做了許多備而不用的資料。並且從網際網路上抓了許多圖,用影像處理軟體改編示意圖,說明這個案子上線後,客戶使用的情況與優越之處。

我們對簡報的內容都很滿意,我們兩個都是身經百戰,做過 n 次簡報的老手,以過去的經驗來評估這次報告,我們都認為這次內容很出色,面子(美觀)和裡子(數字分析)都很充實,「成功」的機會很大。

在主管會議那一天,我以支援單位的角色坐在下面,聽那位「想做事」的主管表演。很意外地,那次主管會議,沒有任何波瀾,每個議題都依照表訂時間行禮如儀,每個大主管都面無表情,沒有評語也沒有爭執。甚至連平日講話最刻薄、不留情面的首席業務副總,從頭到尾都沒有說一句話。會開完了,沒有意見,沒有批評,沒有訕笑、當然也沒有決定。

開完會後,我和另外一位主管聳聳肩、相視一笑,各自走回自己的辦公室。回到自己的座位,我打開電腦,重新看一次簡報的內容,我發現一個讓我下巴差點掉下來的大問題

為了描述作業流程,我們用了許多從各網站剪下來的圖形做輔助說明,在這其中我們用了一張某大入口網站的首頁,那時的入口網站都會在極醒目的地方顯示日期、時間,然後才是顯示各項網站功能的超連結。無巧不巧的是,那張圖顯示的日期時間就是 911 事件的日期、時間...

後來,那個案子,沒有拿到預算,也沒有人想討論。直到我離開那個企業後,那位主管還在爭取...

Tuesday, September 4, 2007

人脈網路搜尋

前幾天才推出的雅虎全能搜索(雅虎中國推出的服務)提供人脈網路的搜尋功能,輸入人名之後,搜尋結果除了傳統以條列方式呈現的網頁列表外,還有一個以 Flash 製作的人脈網路圖。下面這張圖,就是用Google 中國區總裁李開復(李开复)做測試的結果

這個服務的作法,應該是從可搜尋的網頁中,找到與人脈關係有關的關鍵字,解析後以視覺化方式呈現。從人脈網圖形下方的資料來源的顯示方式,可以見出幾分端倪。

如果讀者想測試雅虎在這方面的功力,可以直接在瀏覽器輸入 http://www.yahoo.cn/s?v=person&p=[人名] 作更多測試,記得人名要用簡體輸入(如果輸入繁體,系統會提示你要的是不是簡體的姓名 XXX),試試看下面幾個名字:

  • 錢鍾書 http://www.yahoo.cn/s?v=person&p=钱钟书
  • 周作人 http://www.yahoo.cn/s?v=person&p=周作人
  • 李安 http://www.yahoo.cn/s?v=person&p=李安
  • 張愛玲 http://www.yahoo.cn/s?v=person&p=张爱玲
  • 汪精衛 http://www.yahoo.cn/s?v=person&p=汪精卫
  • 劉德華 http://www.yahoo.cn/s?v=person&p=刘德华
  • 湯唯 http://www.yahoo.cn/s?v=person&p=汤唯
  • 姚明 http://www.yahoo.cn/s?v=person&p=姚明
  • 周杰倫 http://www.yahoo.cn/s?v=person&p=周杰伦

雅虎人際搜索.jpg

有人戲稱這個服務的輸出結果,是狗仔隊新人訓練時很好用的教材。雖然如此,這個服務,其實還有不少改進空間。比如說,如果一個人廣為人知的稱呼不只一個,搜尋結果會判斷為兩個不同的人,例如理性談風月舉的周董和周杰倫(系統把周董和周杰倫當作兩個人)的例子。不過,我相信,雅虎一定會想法子改善這個服務的精度的,或許我們需要一點耐心吧。

正如 Marissa Mayer (Google 主管 user experience and interface design的 VP)在接受 Search Engine Land 訪問時 (參見 2010年的搜尋服務一文),說的一段話:

.......where we show each of those results in a form that really suits their medium, and in a more condensed format. When you started seeing some diagrams, some video, some news, some charts, you might actually have a page that looks and feels more like an interactive encyclopedia.

依照輸出結果的特性,以 Visualization 及其他技術,做不同的呈現,絕對是搜尋服務的重要趨勢之一。雅虎全能搜索,就是又一個鮮明的註腳

Saturday, September 1, 2007

網際網路黑洞

beijing_2008.jpg離 2008 年奧運開幕的日子越來越近,中共控制新聞和言論自由的力度也越來越大。尤其在網路上的行動,也達到前所未有的高度。這幾天大陸地區的博客,紛紛撰文談論 FeedBurner 在大陸被和諧(封鎖)的消息,嬉笑怒罵者有之,認真談論應變措施者有之,認為 FeedSky 是此次混亂中最大受益者有之,這其中我認為最經典的說法是 ─ 那些大老爺們終於搞懂什麼是 RSS 啦

不論這件事如何收場,顯然中國當局對於網路上的自由混亂(這當然是他們的觀點)是深具戒心的,在明年奧運之前,打擊鎮壓的力道只會越來越強,越來越誇張。在我看過的帖子(大陸地區對 post 的說法)裡,那邊的意見領袖型寫手群,一致認為大陸主管當局對於「交互」(互動)性的網路服務,抱持高度戒心,對於博客、社群網路這類的服務,未來必定是勤打、嚴打、猛打,絕對沒得商量地。

無國界記者組織(Reporters without Borders),公布了一張,說16個地區是網際網路的黑洞,在這幾個地區裡沒有新聞自由,什麼東西到了那兒都沒有自由傳播,所以是黑洞(有沒有人要用物理的方式解釋什麼是黑洞)。這幾個地區是 Belarus, Burma, China , Cuba, Iran, Libya, Maldives, Nepal, North Korea, Saudi Arabia, Syria, Tunisia, Turkmenistan, Uzbekistan and Vietnam 。

看看下圖黑色地區最大的那一塊,就是明年要舉辦奧運的那個地方,多醒目,多刺眼


(點擊看原圖)

後記: 傳下一個目標是主機代管商 Dreamhost ,還有一年,就打這麼用力,未來11個月,不敢想下去了...

如果我的心是一朵蓮花

~ 林徽因 · 馬雁散文集 · 蓮燈 ~ 馬雁 在她的散文《高貴一種,有詩為證》裡,提到「十多年前,還不知道林女士的八卦及成就前,在期刊上讀到別人引用的《蓮燈》」 覺得非常喜歡,比之卞之琳、徐志摩,別說是毫不遜色,簡直是勝出一籌。前面的韻腳和平仄的處理顯然高於戴...