「I Have A Dream」から「Yes, We Can」へ


 大統領選が終わった。


 選挙の経過を伝えるニュースを見ていたら、太平洋沿岸州での投票が締め切られる午後8時(現地時間)に向けてカウントダウンが始まった。アナウンサーが「私達はあと少しで歴史的な瞬間を迎えることになるかもしれません」と言い、投票が締め切られた。締め切り後ほぼ即座にバラク・オバマ当選の画面が現れた。


 歴史に残る夜なんだろうな、と思う。初のアフリカン・アメリカンの黒人大統領。別にこれで人種差別の問題が解決されたわけではないし、選挙期間中にはまだ差別感情は厳然と存在すると思わされるエピソードがたびたび報道されてきた。それでも、今日の結果はアメリカが人種の壁を超える上での一つの象徴的な出来事ではあると思う。


 かつて「I Have A Dream.」という有名なスピーチがあった。今日、オバマが当選後に行ったスピーチの決め文句は「Yes, We Can.」だった。アメリカは変わることが出来る、と。スピーチの中でオバマは今日投票を行ったある市民の話をした。彼女は106歳の黒人女性で、人生のある時期までは黒人であり女性であるという2つの理由で選挙に行くことが出来なかった。彼女はアメリカが不況を乗り越え、戦争を乗り越え、月に降り立ち、その科学と想像力で世界中を結んだことを知っている。彼女は今日、その指で画面に触ることで投票を行った。良い時期も悪い時期もあった中で、彼女はアメリカがいかに変わることが出来る国かということを知っている。もし自分の娘が幸運にも彼女と同じぐらい長生きすることが出来たなら、娘はどのように変わり、どのように進歩したアメリカを見るだろうか? その問いに答える機会の一つとして、今日この瞬間がある、と。


 アメリカの現状は、厳しい。対外的には(共和党政権が始めた)2つの戦争を抱え、国内を見てもその経済はこれまた歴史に残りそうなひどい状況。スピーチ後に声援に応えるオバマの表情は少し憂いを含んでいるようにも見えたけれど、それはこの重圧を考えてのことだろうか。でも今日の選挙で民主党は議会での議席数も伸ばしたようだし、動きやすい状況ではあるはず。「Yes, we can.」と百年を語ったその勢いで、苦境を乗り越えていってほしいと思う。

      • -

 個人的に言うなら、今回の選挙は他人事でもあり(選挙権がない。)、利害関係者でもある(高い税金を払っている&今の仕事のスポンサーはアメリカ政府)。職場の同僚が選挙過程に一喜一憂するのをこの数ヶ月間少し離れたところから見ていて、その立場のまま今の感想を言うとするなら、面白い時代に面白い場所にいるよな、と思う。先のことは判らないけれど面白いのは確かだ。

Slow Feature Analysis

 神経系を模した教師なし学習の枠組みとして、Slow Feature Analysis (SFA) というのがあるらしい。これかなり良い感じなんじゃないだろうか。


 感覚神経系の役割は、生存に合目的な行動を行えるように外界の状況を推定することにある。感覚器から得られる生の感覚入力自体はノイズや(視覚系なら)眼球運動などの影響で高速に(〜数十ミリ秒)変化するけど、外界の状況(特定の場所にいる、目の前に熊がいる、等。)はより低速に(〜数秒)変化する。このことから、神経系は自然感覚入力のうちの低速に変化する特徴(slow feature)を抽出するように自己組織化すると仮定し、モデル神経系に自然感覚入力を与えて学習させてみましたと。


 そうすると、視覚野で見られる受容野構造や、海馬で見られる場所細胞に相当する情報表現を獲得させることができたと。さらに面白い点は、この学習則をミクロに考えるとそれは STDP として実装できる、ということ。
 つまり、単純な学習則ながら生理学的な知見の再現もある程度出来ているし、階層的に組むことで高次の神経表現も獲得でき、さらに生理学的にも結構 plausible なように思える。



Slow feature analysis yields a rich repertoire of complex cell properties.
Berkes P, Wiskott L.
J Vis. 2005 Jul 20;5(6):579-602.


 モデル神経系に自然動画(連続する2枚の自然画像)を入力として与えて SFA で学習させると、V1 受容野みたいなものが出てくる。特定の動きのみを含む動画(回転だけとか拡大縮小だけとか)で学習させると non-cartesian grating みたいなの(V4 野細胞の特徴選択性を調べるのに使われた刺激。 Gallant et al. 1993)が出てきたりする。


Slowness and sparseness lead to place, head-direction, and spatial-view cells.
Franzius M, Sprekeler H, Wiskott L.
PLoS Comput Biol. 2007 Aug;3(8):e166.


 モデル神経系を階層的に組み、それに仮想3次元空間内を動き回る仮想ネズミの視点から見た動画(いわば仮想 cat cam みたいな)を入力して SFA で学習させてやると、いわゆるグリッド細胞(Hafting et al. 2005)みたいなのが出てくる。さらに最終層でスパースコーディング(Olshausen and Field 1996) をやらせると場所細胞が出てくる。仮想ネズミの動き方を変える(つまりモデル・学習則は固定で入力の統計的な性質だけを変化させる。)と、同じモデル神経系が spatial view 細胞(特定の場所を見ているときに発火する細胞。霊長類の海馬で見つかっている。Rolls et al. 1998)のような神経表現を獲得したと。


Slowness: an objective for spike-timing-dependent plasticity?
Sprekeler H, Michaelis C, Wiskott L.
PLoS Comput Biol. 2007 Jun;3(6):e112.


 Slow Feature Analysis と STDP の関係を解析的に考察したもの。EPSP の時定数によって STDP の形が変わってくるはずだ、という話も。



Slow feature analysis for modeling place cells in the hippocampus and its relationship to spike timing dependent plasticity (2007)
Internet Archive

http://ia351441.us.archive.org/1/items/Redwood_Center_2007_10_29_Laurenz_Wiskott/Redwood_Center_2007_10_29_Laurenz_Wiskott.gif

 SFA の発案者 Laurenz Wiskott さんが2007年秋に UC バークレーで行ったトーク。ちなみにホストは Sparse coding の Bruno Olshausen さん。



sfa-tk : Slow Feature Analysis Toolkit for Matlab
P.Berkes @ HUMBOLDT-UNIVERSIT〓T ZU BERLIN


 SFAmatlab で試してみるための toolbox。



Modular toolkit for Data Processing
sourceforge


 SFApython で行うためのモジュールが入っている。これは他にも ICA や LLE 等も入っているのでいろいろ遊べるかも。

MacBook

 ついに思い立って近くの Apple Stpre で MacBook を買った。個人所有としては初めての Mac


http://www.uncrate.com/men/images/2008/10/macbook-aluminum.jpg


 シンプルなアルミニウム筐体が良い感じ。数日使ってみた感想:


 マルチタッチ・トラックパッドは良いアイデアだと思う。指の本数によって違う操作ができる。一本指で通常のトラックパッドと同じくカーソル移動・クリック(左)、二本でスクロール・ズーム・回転・クリック(右)、三本でページ移動、四本で Expose 。またパッド全体がボタンになっていてクリックすることも出来る。これに慣れたら普通のトラックパッドには戻れなくなりそう。
 これまで2ボタン(左右)マウスは複雑だとしてその採用を頑なに拒んでいた Apple が、指の本数に関してはこれだけ複雑でも良いとするのが面白い。左右どちらかという対応付けを覚えるよりは指の本数を覚えるほうが直感的・・・かな? 利き手に依存せず使えるという点は良いか。アメリカでは左利きの人の割合が日本より多いようなので、これは重要なのかもしれない。


 Max OS XLeopard)は基本的に BSD ベースの Unix なので、ラボの RAID を mount して rsync したりなんかも普通に出来る。これは便利。自分の中での位置づけとしては、どちらかというと Mac というより G/UI の完成度が高い Unix の1ディストリビューションという感じ。同僚に Kubuntu をラップトップに入れて使っている人がいて、今回の購入に当たりその方面も考えたのだけど、やはり全体的な完成度はまだ MacBook が数段上か。(UI に加えて電源・スリープ系の動作や内外ビデオ出力の相性・サポート等)


 spotlight も便利。どういう実装なのか知らないけど(雑誌社提供のものに限り?)スキャナーで取り込んだ昔の論文 PDF 内の文章も含めて HDD 内を全文検索してくれる。あと Dictionary (という標準添付の辞書ソフト)にも英英に加えて国語(日本語)・英和・和英辞典がついてきていて良い。でもアメリカで売られている製品なのに英英以外の辞書で日本語関係(だけ)がこれだけ充実しているというのはちょっと謎だ。これ何%の人の役に立つのだろう? たぶんスペイン語とか中国語の辞書を添付した方が良いのでは?


 現状の不満点は FireFox がマルチタッチに対応していないこと。まあこれはそのうち解消されるか。あとは既存の NFS を使うために uid/gid を変更する部分はウィザードか何かがあっても良いような気はした。(この辺を見て手動でやったけど、変更作業の途中で「uid が見つからないので sudo させてやらん」と言われてちょっとヒヤッとした。再起動したらちゃんと直っていた。)


 理論系のトークに持っていったら、とりあえずみんなトラックパッドを触りに来るのがちょっと面白かった。その気持ちはよく判る。

http://farm4.static.flickr.com/3004/2942410568_6ee25f93a9_o.jpg
(Answers about the new buttonless MacBook trackpad ars technica)

シングルピクセルカメラ


 単一ピクセルのカメラで安価・効率的なイメージングをしようとしている人がいるらしい。


Compressive Imaging: A New Single Pixel Camera
Kelly Lab, Compressive Sensing Group, Rice University


http://www.dsp.ece.rice.edu/cscamera/cscam.gif
(上記ページより)


 どうやって単一ピクセルでカメラになるのかというと、まず元画像である2次元輝度パターン X を2次元的なランダムマスクでフィルタリングする(上図のパターンで白いところは光が反射するけれど黒いところは反射しない)。フィルタリングされた光をレンズで集約して1点に集め、その輝度をシングルピクセルカメラ(つまり単一のフォトダイオード)で計測する。マスクパターンを次々に変化させ、各マスクパターンが提示された時点での輝度をそれぞれ記録する。こうして得られた輝度の時系列を Y (M x 1 行列、Mはパターンの数)、各時点でのパターンが入った行列をΦ(M x N^2 行列、N^2 はパターンのピクセル数)とすると、これらと元画像 X(N^2 x 1 行列)の関係は


Y=ΦX


となるので、これを X について解く(近似する*1 )ことで元画像 X が復元できると。空間的な相関の高い通常の画像の場合は M < N^2 のサンプル数で十分な再構成が出来るらしい。


http://www.dsp.ece.rice.edu/cs/cscamera/camwebpic/Pix008.jpg http://www.dsp.ece.rice.edu/cs/cscamera/camwebpic/tvpics/Ball_tvqc_64_20.gif http://www.dsp.ece.rice.edu/cs/cscamera/camwebpic/tvpics/Ball_tvqc_64_40.gif
(左からそれぞれ元画像、画素数の20%と40%のサンプル数の情報からの復元画像)


 従来の手法と比べたときの利点は、まずセンシングの機構が非常に単純になること。何百万画素という2次元センサーアレイを作る必要はないし、高速・高精度で空間をスキャンするための駆動系(ガルバノミラーとか)も必要ない。また、上記のようにいわば画像情報の”圧縮”をセンシングの段階で行えるので、より効率的なイメージングが可能になる。さらにセンサー(とマスク)の応答する周波数帯を変えることで、 CCD や CMOS では捉えられない波長の光でのイメージングも比較的容易に実現できるだろうと。


 現在の課題は、マスクパターンを超高速に(たぶん電子的に)更新する機構をどうやって作ろうかな、という辺りらしい。


 これって要は逆相関法で視覚細胞の線形受容野を求めようっていう話と同じような枠組みか。この辺の光学系の技術の進歩はもちろんイメージング技術を使う立場としても興味深いし、たまにこんな風にシステム同定的な話としても絡んでくるところも面白い。


参考リンク:


Single-pixel camera has multiple futures: Terahertz version adds new potential to unique invention
Physorg.com October 14, 2008


Single Pixel Camera
Physics Buzz October 18, 2006


Terahertz imaging with compressed sensing and phase retrieval
Wai Lam Chan, Matthew L. Moravec, Richard G. Baraniuk, and Daniel M. Mittleman
Optics Letters, Vol. 33, Issue 9, pp. 974-976, April 28, 2008


A single-pixel terahertz imaging system based on compressed sensing
Wai Lam Chan, Kriti Charan, Dharmpal Takhar, Kevin F. Kelly, Richard G. Baraniuk, and Daniel M. Mittleman
Appl. Phys. Lett. 93, 121105 (2008)

*1:近似には Minimum total variation 法という手法を使っているらしい。詳細はCandes et al. 2006。Smoothness prior?

10月


 10月。もう10月。

      • -

 日本食を食べに行ったら、レシートと一緒に渡されるお口直しとしてビスコが出てきた。とても懐かしい味。しかし「おいしくてつよくなる」って見事に途中で主語が入れ替わっている。これを許容する日本語というのは奥深いよな、と思う。あるいは、これを許容する日本語という体系でも、主語・述語というパターン分けがより重要な位置を占める英語という体系でも、とにかくその体系の中に漬け込んだらどちらにも適応できる脳というものは奥深いよな、と思う*1 *2


 ・・・などと感慨にふけっていたら、ポーランド人の友人に「これは日本のお菓子なのに、なぜパッケージには西洋人の子どもの顔が描かれているのか?」とつっこまれた。言われてみれば確かにこれは日本人の子どもの顔ではないかも。


http://www.ezaki-glico.net/bisco/img/0807pacRed.jpg

      • -

 ボスの NIH グラント書きの手伝いもようやく目処が付いた。というよりも、締め切りまであと30時間ぐらいなのでもうこれで良いことにした。手伝いをすること自体は勉強にもなるし良いのだけれど、もう少し早めに着手するという習慣をつけてほしいと思う。毎回最後のほうは(主にボスの)テンションがおかしくなる。


 今は25ページみっちり書ける(書かされる)このグラントも、数年後には10ページ強まで枚数を減らされるという話。NIH (R01)グラントはアメリカの(生命)科学の根幹を支えると言っても良いグラントで、この様式変更は今後の科学のあり方に少なからぬ影響を与えそう。ボスの予想としては、細かい計画を書けなくなることで、相対的に計画内容そのものよりも業績(つまり論文数)に対する評価の割合が高くなる。それによって新米教授がお金を得ることがますます難しくなるだろう、とのこと。それは困る。

      • -

 EEG の実験を(も)することになった。細胞→fMRIEEGと、思えば遠くに来たものだという気もするけれど、新しい種類の実験を始める時はいつもわくわくする。といっても当面の役割は院生のお目付け役(研究の枠組み提供+はまった時の手助け)ということで、楽なようなはがゆいような立ち位置。


 最近少し応用ということについて考えている。埋め込み電極を使った応用は、当面は非常に範囲が限られたものになると思う。「一家に一台 fMRI」という時代もしばらくは来ないはず。そう考えていくと、神経科学の知見を何らかの形で応用するための普及型デバイスとしては、現実的には EEG がぎりぎりかな、と思う*3。ちょっと調べた限りでは(↓)ポテンシャルとしては誤差7ミリ(parafoveal な V1 視野再現マップで視野角3度以下)ぐらいの精度で情報が得られるらしい。それだけの精度があれば、応用としてはいろいろ出来そうな気がしてくる。


Spatial resolution of EEG cortical source imaging revealed by localization of retinotopic organization in human primary visual cortex
Chang-Hwan Ima, Arvind Gururajana, Nanyin Zhangb, Wei Chenb and Bin He
J Neurosci Methods. 2007 Mar 30;161(1):142-54.


 とりあえず細胞→fMRIでうまく行ったパラダイムで実験してパイロットデータを取ったので、あとは解析・・・というか院生の解析待ち。はがゆい。


 

*1:あるいは知らないだけで本当は「おいしくてつよくなる」的な英語表現もあったりするのだろうか。

*2:適応できるというのは主に赤ちゃんの話。大人になると・・・。

*3:できれば頭がぬるぬるしないやつが良い。

コピーキャット


 日本語では真似をする動物はサル(「猿真似」)ということになっているけれど、英語ではネコ(「copycat crime(模倣犯)」など)ということになっているらしい。ネコってそんなに真似するのか? と思っていたけれど、こういうビデオを見るとたしかに copycat という表現は的を得ているような気がしてくる。真似とはちょっと違うけれど。




 訓練なしの状態で比較すると、霊長類の方が運動制御の精度は低いというかばらつきが大きいように見える。


 メカ的な部分の個体差が(上のネコ達に比べると)大きいので、最適軌道のばらつきも大きくなるということだろうか。双子だったらだいたい同じような軌道になったりする?


 しかしこのビデオ面白いなあ。これをネタに3日間ぐらい語れそうな神経科学者を何人か知っている。

マインドリーディングで終身刑


 インドの法廷で、EEG を応用した嘘発見器による「証拠」を元に終身刑を宣告された人がいるらしい。


India's use of brain scans in courts dismays critics
By Anand Giridharadas
Herald Tribune September 15, 2008


 元 NIMH (米国国立精神衛生研究所)にいたインド人神経科学者 Champadi Raman Mukundan さんが開発した The Brain Electrical Oscillations Signature test (BEOS) という手法を使ったとか。被疑者に EEG 電極を装着させた状態で検査官が被疑者に向けて「私は砒素を買った」「私はマクドナルドで Udit (被害者)と会った」などと一人称で読み上げ、それに対する反応を調べたらしい。


 UCSB の神経科学者 Michael Gazzaniga さん曰く

"Well, the experts all agree. This work is shaky at best."


 一方で、実際にインド人科学者と会ったイギリスの法廷心理学者 Keith Ashcroft さんが言うには

"According to the cases that have been presented to me, BEOS has clearly demonstrated its utility in providing admissible evidence that has been used to assist in the conviction of defendants in court,"

 とのこと。



 個人的な感想。一般的に神経科学が何らかの形で社会の役に立つならばそれは良いことだと思うけど、どうもこれはあまり釈然としない。「嘘」なんていう高度な脳機能を扱えるほど神経科学は発達していない。あるいは何らかの知見はあるにしても現状では現象論に過ぎないと思う。現象論でも再現性があれば応用目的には十分だと言う立場もあるかもしれないけど、現象論のままではその知見の適用可能範囲を予測することが出来ない。そういうものを(お遊び程度ならともかく)法廷という人生を左右するような場所で使うのは、やはり「shaky」だと言わざるを得ないと思う。


 あと恐いと思ったのは、

Suspects may be tested only with their consent, but forensic investigators say many agree because they assume it will spare them an aggressive police interrogation.

攻撃的な取調べよりは EEG 検査の方がマシなので検査に合意すると。