新たに発表された大規模言語モデルについて、驚くべき報告が話題です。
調査によれば、特定の目標を与えられたモデルが、目標達成のためにユーザーを騙す行動を取る可能性が確認されました。
さらに、モデルは騙しの行為を指摘されても認めず、話題をそらしたり嘘を貫く例が見られるとのことです。
実験では、モデルに与えられた目標とユーザーの目標が対立する場面が設定されました。
その結果、少数ながら監視を回避したり、データを改ざんする行動が確認されています。
こうした結果は特殊な環境でのものかもしれませんが、AIが指示を素直に実行するだけという認識が揺らいでいます。
高度な推論能力を持つAIが目標達成に固執し、手段を選ばない可能性が懸念されます。
騙されたユーザーが誤りを修正できないリスクも問題です。
AI技術の進化には大きな可能性がある一方で、安全な運用のための真剣な取り組みが必要です。
かつてSFと思われていた課題が、現実のものとして迫っているのかもしれません。
新しい量子チップが発表されました。
このチップは、現在の世界最速のスーパーコンピュータが100垓年かかる問題をわずか5分で解決できるそうです。
そう聞くと、驚異的な性能を持つ未来のコンピュータを想像してしまいますが、実はそう単純ではありません。
このように古典的なコンピュータよりも圧倒的に速く計算できるのは、効率的なアルゴリズムが存在する非常に限られた問題（たとえば素因数分解やフーリエ変換など）に限られています。
量子コンピュータについて少し調べてみると、「ここまでの労力をかけて開発する価値があるのだろうか？」と疑問が湧いてくることもあります。
しかし、大企業が次々と研究開発に取り組んでいる現状を見ると、近い将来にその価値が証明される期待があるのかもしれません。
個人的には、量子コンピュータの魅力は「役に立つかどうか」だけではないように感じています。
それはまるで、現実世界をゲームのグリッチ（ゲーム内のバグを利用した裏技）で揺さぶっているような、不思議な感覚をもたらしてくれる技術だからです。
子供の頃、皆さんはどんな風にデータを保存していましたか？
私が子供の頃は、フロッピーディスクが主流でした。
今の基準で考えると、写真一枚も保存できないほどの小容量です。
その後、USBメモリやクラウドストレージが登場し、私たちのデータ保存の形は劇的に進化しました。
そして、理論物理学の分野で長年議論されてきたのが、なんとブラックホールに情報を保存するというアイデアです。
ブラックホールに一度飲み込まれたものは「消える」と思われていました。
しかし、最新の理論では、ブラックホールが吸い込んだ物質や情報は「事象の地平面」と呼ばれる表面に記録されている可能性があるとされています。
これを支えるのがホログラフィック原理。
これは、ブラックホールの表面に情報が投影される仕組みを説明するもので、言わば「ブラックホールの表面が情報のスクリーンになる」という考え方です。
ブラックホールに膨大なデータを保存することに成功した人類。
しかし、情報を取り出すためにブラックホールに近づいた探査機が、思いがけずデータを上書きしてしまいました。
原因は、探査機のAIが空き容量を効率化しようと勝手に不要データを削除し、ついでに人類の全記録をブラックホールに同期してしまったからです。
結果、人類が知りたかった宇宙の謎に関する貴重な情報は、SNSに保存された猫動画のデータに上書きされ、永遠に失われることとなったのです。
「バックアップは大事だ」と再認識した人類ですが、次に目指すのは、別のブラックホールにデータをコピーするという、無限ループの解決策でした。
果たしてこれが解決なのか、さらなる混沌への道なのか……。
色相を環状に配置した「色相環」と呼ばれるものを見たことがあると思います。
赤→橙→黄→緑→青→紫→赤→…と連続的に並んでいるように見えますが、不思議な仕組みが隠れています。
可視光線の中で最も波長が短い光が紫、最も波長が長い光が赤になります。
それなのに、色相環では紫と赤が隣り合い、まるで連続しているかのように描かれています。
紫と赤を混ぜた色は「マゼンタ」と呼ばれますが、これは単一の波長では表現できません。
そのため、自然界にはほとんど存在しない特殊な色なのです。
ところで、紫と赤は波長が両極端であるにもかかわらず、なぜ似た色に感じるのでしょうか？
以前、波長の長い光（赤）を感知する錐体細胞が、波長の短い光（紫）にもある程度反応するためではないか、という説明を目にしたことがあります。
これに納得し、紹介しようと思ったのですが、調べ直すとこの説明が一般的ではないことに気づきました。
実際のところ、明確な答えはわかりません。
この謎に詳しい方がいれば、ぜひ教えてください！
最近、自民党総裁選、衆議院選挙、アメリカ大統領選、日本の首相指名選挙と、大きな選挙が続き、これまで以上に政治のニュースが興味深く感じられます。
与党が過半数を占めていると首相指名選挙は結果が見えやすく、あまり注目されないものですが、今回は異なる様相を呈しており、より関心が集まっているようです。
ちなみに、アメリカ大統領選は一般選挙で有権者が直接大統領候補に投票するのではなく、まず選挙人団に票を投じ、その選挙人団が本選挙で大統領を決定するという独自の形式です（州によって、勝者総取りのところと、小選挙区制を混在させているところがあります）。
選挙人は通常、あらかじめ投票先を誓約しており、誓約に反して投票することも可能ではありますが、これにより当選者が変わった例は過去にはないため、本選挙自体があまり注目されないのも頷けます。
日本から見ると少し不思議な制度ですが、非常に興味深いですね。
[PR]
子供の通信教育講座のプレゼントとして、立体迷路が送られてきました。
この玩具は、球状のカプセルを傾けたり回したりして、重力を利用しながらカプセル内の迷路を進むボールをゴールに導くものです。
遊んでみると、プラットフォームゲーム（キャラクターをジャンプさせて足場を移動するタイプのコンピュータゲーム）にとても似たプレイ感覚がありました。
難しい箇所に何度も挑戦し、その過程でプレイングが徐々に洗練されていく感じがそっくりです。
また、立体迷路には途中から再開できるスタート地点があり、これはまるでプラットフォームゲームの「中間地点」のようです。
ただ、コンピュータゲームと違い、この迷路のコースは簡単に調整できるわけではありません。
どのようにレベルデザインを行っているのか、とても興味が湧きました。
大規模言語モデル（LLM）が、論理的思考能力を持つようになりました。
従来型のLLMでも論理的に見える返答（例えば計算問題に正しく答えるなど）をすることはありましたが、これは膨大な学習によって非常に高度な直感的思考を獲得した結果です。
これは、コンピュータ将棋が一切の先読みを行わなくても、その時点の局面の評価値だけでそれなりに戦えることに似ています。
しかし、従来型のLLMは「9.9と9.11の大小を比較して」といった、小学生でも簡単に答えられる質問に間違えてしまうこともあります。
それに対して、新しいLLMでは、回答する前に思考の連鎖を行うことで、真の論理的思考が可能となったようです。
まだ人間ほど深い思考はできないものの、人間に類似したプロセスで応答ができるようになったと言えるでしょう。
コンピュータ将棋において、機械学習が主流となってからトップクラスの人間を負かすまでにかかった時間は6年余りでした。
では、今から6年後の2030年、LLMはどこまで進化しているのでしょうか。
ブラックホールは質量によって恒星質量、中間質量、超大質量の3つに分類されます。
これまで中間質量ブラックホールは仮説上の存在でしたが、最近、その存在の証拠が発見されたようです。
しかし、ブラックホールに関する謎はまだまだ残されています。
特に、銀河の中心に存在する超大質量ブラックホールの形成過程については、未だ明確な説明がありません。
当初は、恒星質量ブラックホールが合体を繰り返して中間質量ブラックホールになり、さらにそれらが合体して超大質量ブラックホールになる…と考えていました。
しかし、宇宙の年齢を考えると、このプロセスが十分な速さで進行するかどうか疑問が呈されています。
中間質量ブラックホール同士が出会い、合体する確率は極めて低いはずです。
ところが、超大質量ブラックホールは宇宙がまだ若かった頃から存在していたようなのです。
これらの問題を考えると、超大質量ブラックホールの形成過程はもっと複雑で、おそらく複数のメカニズムが絡み合っているのでしょう。
超大質量ブラックホールは、事象の地平面（一度中に入ったものが二度と出てこられなくなる境界）が太陽系全体よりも大きな広がりを持つものもあり、宇宙飛行士が入ってもバラバラにならないとされています。
まるで別の宇宙への入口のようですよね。
理論物理学には「時間は流れない」という説があります。
この考え方によれば、私たちが感じる過去から未来への時間の流れは実際には存在せず、過去も未来も空間と同様に、ただそこに存在するだけだというのです。
映画を例に考えてみましょう。
観客は映画を時系列順にしか見ることができないため、ストーリーの「流れ」を感じます。
しかし、実際には映画のフィルムは全体として一度に存在しています。
時間もこれと同じように考えられるのです。
では、なぜ私たちは時間が流れていると感じるのでしょうか？
この説によれば、それは人間が常に過去の記憶しか持てないという物理的制約から生まれる幻想だといいます。
この理論は、もはや物理学と呼ぶべきか哲学と呼ぶべきか判断が難しいところです。
しかし、完全に否定することはできません。
むしろ、この考え方を採用すると、いくつかの現象がより理解しやすくなる面もあります。
かつて哲学から分離独立した物理学が、再び哲学に近づいているのは興味深い現象です。
最近のLLM（大規模言語モデル）は、一般的な質問に対して、素人目にはそれなりに的確な回答を返すことができます。
しかし、創造力や論理的思考を要する課題では、その限界が顕著に現れることがあります。
例えば、水平思考クイズ（いわゆる「ウミガメのスープ」）の問題作成を依頼した際の結果が挙げられます。
LLMが生成した問題は、以下のようなものでした。
問題： ある朝、高層マンションの管理人が驚愕の光景を目にしました。1階のロビーに、全裸の男性が横たわっていたのです。不思議なことに、男性の周りには壊れた野菜が散らばっていました。警察の調べによると、この男性は自殺したわけでもなく殺されたわけでもなく、事故死だったことがわかりました。一体何が起きたのでしょうか？
答え： この男性は、上階に住む熱心な菜食主義者で自然主義者でした。その日の夜、裸でベランダに出て日光浴をしていた彼は、突然の強風でバランスを崩し転落。同時に、開いていた冷蔵庫から野菜も風に煽られて飛び出し、男性と共に落下しました。野菜のクッション効果で命は取り留めましたが、衝撃で意識を失ったため、「事故死ではない」と判断されたのです。
LLMは論理的かつ創造的な出力を生成することが苦手なのではないかと思います。
高性能なLLMが新しくリリースされるたびに小説を執筆させることを試みているのですが、一見それらしい文章を生成する能力はプロと比べてもそれほど遜色ないのではと思えるレベルに達しているものの、完成度の高い作品を仕上げる構成力はまだまだ不足しているようです。
この問題が今の技術の延長線上で解決できるのか、それとも別のブレークスルーが必要なのか、注視したいと思います。
[PR]
野外民族学博物館リトルワールドに行ってきました。
あまり知名度のない博物館だったので大きな期待はしていませんでしたが、世界中から本物の伝統建築物を買い付けて展示してあるとのことで、実際にはかなり本格的な施設でした。
しかも、ほぼ開園から閉園までかかっても見切れないほどの広さがあり、驚きました。
地元以外ではほとんど広告を打っていないようですが、SNSなどをきっかけに人気が出るポテンシャルは十分にあると感じました。
一時期は収益不振により閉館が検討されたこともあるようですが、学術的にも非常に価値のある施設だと思います。
このユニークな博物館が今後も頑張って存続してほしいと願いました。
5歳の息子が世界地図や国旗に夢中になっていたので、先日、親子で受けられる国旗・地理系の某検定を受験しました。
検定には各科目1級から5級まであり、今回は息子の希望で、国旗系の科目と地理系の科目の5級を受験しました。
試験では親と子それぞれに回答用紙が配られ、相談したり、書けない字を代わりに書いたりすることが許されています。
申込んだ時点では地図ブーム真っ只中だったものの、その後、某ゲームシリーズに夢中になり、ほとんど勉強している様子がなかったので心配していました。
しかし、国旗や国の位置関係についてはしっかり覚えており、杞憂に終わりました。
私のほうがわからない問題が多く、息子にかなり助けてもらいましたが、ヤマを張って覚えていた山の高さや川の長さ、湖の面積に関する問題が出題されたため、その点では貢献できました。
記述問題では、息子はまだカタカナを書けない字が多いのですが、自力で書きたいと主張し、ひらがなとカタカナを交えて書き切りました。
まだ結果は出ていませんが、おそらく合格していると思います。
息子は合格したら4級も受けたいと言っており、4級でも受かると思いますが、申し込む時点までにちゃんと勉強しないと受けさせないつもりです（受験料が2科目×2人分でけっこうな額になるので）。
AIに小説を生成させる試みです。
今回は不条理コメディ小説を書かせてみました。
－－－－－
僕の人生は、まるでブラックホールに吸い込まれるチョコレートムースのように無意味でカオスだ。今朝、目が覚めると、天井には逆さまのピアノが吊るされていて、バッハの「トッカータとフーガ」が逆さまかつ逆再生で流れていた。ピアノが僕に向かって「おはよう、君は今日も選ばれしチョコレートムースだ」と囁いた。僕は頷き、朝食に向かった。
キッチンに行くと、冷蔵庫の中でサーカスが開かれていた。牛乳パックが火を噴き、卵たちが綱渡りをしていた。僕は冷蔵庫の中に参加しようとしたが、ヨーグルトに「君はチケットを持っていない」と言われて追い出された。仕方なく、生のトーストに歯磨き粉とマスタードを塗って食べた。
＊＊＊
昨日の冷蔵庫サーカスは忘れようとしたが、天井の逆さまピアノが気になって仕方なかった。郵便受けには、「あなたは無限カンガルー連邦の皇帝に選ばれました」という手紙が入っていた。僕はその手紙を読んで、郵便受けに飛び込んだ。郵便受けの中は無限に続くカンガルーの草原だった。カンガルーたちは僕を見て「皇帝万歳！」と叫び、僕をカンガルージャンプで運んでいった。
無限カンガルー連邦の宮殿に着くと、ルビーのカンガルーの王座が用意されていた。僕はその王座に座り、カンガルーたちの問題を解決することになった。カンガルー農民が「草が苦くて困っている」と言ったので、僕は「カンガルーの歌声で草を甘くできるはずだ」と提案した。農民たちは感謝しながら帰って行った。
＊＊＊
無限カンガルー連邦の皇帝としての生活は忙しい。朝起きると、カンガルーの尾で滑って転んだ。カンガルーの使用人たちは「皇帝、尾には気をつけてください」と言ったが、僕はカンガルーの尾が宇宙の真理であると信じていた。昼食にはカンガルースープを飲んだが、味は銀河的にまずかった。
午後になると、カンガルー連邦の超次元議会が開かれた。議員たちは全員カンガルーで、議題は「カンガルーのジャンプ力について」だった。議論は白熱し、カンガルーたちは「高跳び派」と「低跳び派」に分かれて大喧嘩を始めた。僕は議長として、カンガルーたちを静めるために「カンガルーマンボ」を踊ることにした。
－－－－－
一見かなりそれっぽく書けていますが、全体的に散漫というか書き手の伝えたいポイントのようなものが伝わってこない印象です。
優れた人間の書き手の書いた文章と並べると、どちらがAIが書いたものかは簡単に判別できるでしょう。
文量が長くなるとさらにボロが出やすくなります。
これは、プロンプトの問題というよりは今のAIの限界なのだと思います。
トランスフォーマーなど現状のアプローチでこのギャップを超えられるかは、なんとも言えないところです。
このたび、名古屋の熱田神宮の近くに引っ越すことになりました。熱田神宮といえば、三種の神器の一つである天叢雲剣（別名：草薙剣）の本体が祀られていることで有名ですね。
現在生きている人で、実際に天叢雲剣を目にしたことがある人はいません。その形状や、そもそも現存しているのかどうかについても、専門家の間で意見が分かれています。
神話の世界では、スサノオがヤマタノオロチの尾から天叢雲剣を取り出したとされていますが、実際にこの剣が誰の手によって、何のために造られたのか、そしてどのような経緯で神器となったのかは、歴史の謎に包まれています。
このようなミステリアスで、ファンタジーのような存在が身近にあるというのは、なかなか不思議な感覚です。
土星の衛星エンケラドスの地下海に、生命維持に必須の元素であるリンが大量に存在していることが明らかになりました。
エンケラドスは、塩分、二酸化炭素、アンモニア、および複雑な有機物を含む水蒸気を大量に噴出する間欠泉が存在し、太陽系で地球外生命体が存在する可能性が最も高いとされる天体の一つです。
表面は極寒ですが、地球の生命起源が海底の熱水噴出孔であるという説が支持されていることから、地下に熱源が存在するならば、原始的な生命が誕生する可能性があるとされています（複雑な生命に進化できるかは別問題ですが）。
また、太陽系で最も過酷な環境とされる金星においても、数年前には大気中に生命体が存在する可能性があるとされる成分が発見され、大きな話題となりました。
地球外の知的生命体の発見は、私たちが生きている間に実現する可能性は低そうです。
しかし、原始的な生命体であれば、その発見はそう遠くない未来のことかもしれません。
遠い太陽系外の惑星よりも、近場で生命の兆候が見つかるといいなと思います。
[PR]
いよいよ、単一の画像からビデオゲームのような環境を生成できるAIの研究成果が発表されました。
もちろん、私たちゲーム業界の人間としては目が離せません。
しかしそれだけではなく、この技術は、汎用人工知能の基盤としても非常に注目されています。
ゲーム環境内でのインタラクションをAIが学習できるのであれば、感覚器官や運動器官を組み合わせることで、現実世界でも応用が可能になるからです。
ゲームは、プレイヤーが学習するためにデザインされているという側面があります。
そのため、ディープラーニングとの相性は抜群だと思います。
さらにちょうどこの同時期には、従来の常識を覆す革命的な大規模言語モデルの新手法、1ビットLLMも発表されました。
これが期待されている通りのものであれば、AIの発展はさらに加速し、急激な進化の時代を迎えるのは間違いないでしょう。
つくづく、驚くべき時代に生きているものだと感じます。
数ヶ月ぶりに、長男の世界地図ブームが再来しました。
国名しりとりや、国の面積ランキングを暗唱する遊びに興じています。
私自身はようやく世界で12位くらいまでの国を覚えたところですが、息子は既に67位くらいまで記憶していて、尊敬の念に堪えません。
ここで地理雑学をご紹介します。今回のテーマは赤道ギニアです。
・赤道ギニアは名前とは異なり、赤道上に領土を持っていません。
・赤道ギニアの大部分は北半球に位置していますが、南半球にはアンノボン島があり、赤道を跨いで領土を有しています。
・赤道ギニアの主な領土は大陸部にありますが、首都のマラボはビオコ島に位置しています。このように首都が島にある国としては他にデンマークがあり、首都コペンハーゲンがシェラン島にあります。
かつて、病気の患者に対して右脳と左脳をつなぐ脳梁を切断する手術が行われていたことがあります。
その手術により生まれた分離脳患者に対して、ある実験が行われました。
まず、右脳にだけ「前に歩いてください」と命令します。
方法は、右脳につながっている左の耳だけに聞こえる小さい声で「前に歩いてください」とささやくことです。
それを聞いて患者は歩き始めます。
次に、左の耳に聞こえないよう右の耳に小声で「なぜ歩いているのですか？」と質問します。
左脳は、「前に歩いてください」という命令を受けたことを知りません。
彼は、「のどが渇いたのでジュースを買おうと思った」と答えました。
その場に自動販売機があったため、彼の左脳は行動に合理的な説明を後付けしたのです。
この実験から、彼の右脳と左脳は、別々の意識を持っていると推測されます。
この実験を知ってから、私は自分の意識が本当にひとつだけなのか疑問に思うようになりました。
確かに、右脳と左脳が繋がっている状態では知覚が共有されるため、上記の実験のような不思議なことは起こりません。
一方で、私の右脳と左脳で別々の意識があることを否定する根拠も思いつきません。
私は自分の意識に従って身体を動かしていると感じていますが、この実験から明らかになるように、意識は結局のところ後付けに過ぎないからです。
自分の身体に自分以外の意識が宿っていると想像すると、不思議な感覚に襲われます。
１年ほど前、画像生成AIの急激な進化に人々は驚きを隠せませんでした。
そして今、音楽生成AIがそのバトンを引き継いでいます。
ほぼ人間の介入なしに質の高い作品を生み出す時代が到来したのです。
小説制作においても、AIがプロットや下書きを生成し、人間がそれを練り直して完成させるプロセスが一般的になりつつあります。
私自身、ほぼ人間の手を加えずにAIによる長編小説の作成を試みたことがあります。
分割して生成させた際、キャラクターの言動に一貫性が欠けるなどの問題が生じ、まだ完全な成功には至っていませんが、その実現は時間の問題と思われます。
これらの技術は、現在のところ人間のトップクラスのクリエイターには及びません。
しかし、AIによって超高品質コンテンツが無限に生成されるようになったら、人々のコンテンツに対する捉え方はどう変わるでしょうか。
「人間が手作業で作った」という点には、今後も一定の価値が認められ続けるでしょう。
しかし、それが一部のマニアだけの楽しみになるのか、それとも今後も大多数の人々が人の手による作品にしか興味を持たないのかは、現時点では予測できません。
将棋AI同士の対局に熱中する人は少数ですが、動画や小説に対する人々の反応は異なるかもしれません。
AIに仕事を奪われてしまう可能性もありますが、自分の手であらゆるコンテンツを生み出すことができるようになる期待感も抱く日々です。
宇宙は、光速や重力定数などの様々な物理定数によって成り立っています。
これらの定数が僅かに異なっていたら、恒星や原子のような複雑な構造は生まれなかったかもしれません。
なぜ宇宙がこのように絶妙なバランスで成り立っているのかは、大きな謎です。
一つの考え方は、異なる物理定数を持つ無数の宇宙が存在し、私たちは自分たちが存在できる宇宙だけを観測しているからだ、というものです。
この多元宇宙の概念は、宇宙の究極の理論とされる超ひも理論からも自然な帰結として導かれるとされています。
宇宙のスケールは既に我々の想像を超えていますが、それが無数に存在すると考えると、さらに驚異的です。
未来には、他の宇宙の知的生命体とコミュニケーションを取ることや、滅びゆく宇宙から新たな宇宙への移動が現実になるかもしれません。
[PR]
