R. Maruyama
@rmaruy
Followers
4K
Following
47K
Statuses
11K
丸山隆一 「メタサイエンス・コミュニケーター」/Open academia Lectures企画担当 https://t.co/FgirUoFzc4
Joined January 2010
【営業連絡】2月になりました。先月は体調を崩すなどして思うように活動できなかった面もありましたが、今月も無理せずやってまいります。できることは小さなことばかりですが、お正月に描いた曼陀羅を頼りに点を線でつないでいけたらと思います。以下、2月のイベント等のお知らせです。
1
2
15
@hir_kurashige おっしゃるとおりですね。その点、Deep Researchなどは初期キャリアの人や分野外の人が文脈をつかんでいる「かのような」状況にいち早く達するのを助けてくれそうですが、本当に近道になっているのか（身についていない暗黙知的なものなど？）は一つの焦点になりそうです。
1
0
1
@inflorescencia なるほど…読みたい量が読めないというのは割とみんな思っていることかと思いましたが、それも一つの感性なのですね。ただ、私も最近は酒井さんとか山本貴光さんなど、エルフ級の本読みの方々がいてくれるおかげで世界は豊かになるしありがたい、という気持ちになってきた感じもあります。
0
0
1
しかし意識し始めると、月に10回どころか一日に10回くらいは「問い」が浮かんでいることに気づく。人類の叡智を総動員して応えてくれる物知りがすぐそばにいるのに、それを聞かないことが知的怠惰のように思えてくるという新しいストレスと、これから折り合いをつけていく必要がありそうだ。
0
1
3
Epoch AIによる推論時の消費電力の最新の考察。GPT-4oでは、クエリーあたり0.3ワットまで下がっているがトークン長による。
How much energy does a ChatGPT query consume? One common estimate is 3 watt-hours per query. However, in this week’s Gradient Update we find that it’s probably about 10x less for a typical query today. 🧵
0
1
0
@temarilab よくまとまっていますよね！ 問題はどこから「仕切り直し」をするのか。。個人的にはOpen academiaの方向に挑戦する人を増やすこと、かなと思っています（ポジショントーク）。
0
0
1
本日のBeyond AIのパネルディスカッション、甘利先生の切れ味が相変わらずだった。 自分はビジネスとの連携もせず教育もなおざりだったが今はそういう時代ではないといった趣旨の発言をされていたが、新しい分野を作れる方はそれで良いのではと思った。あとはRe:Relの仕事。
0
1
5
RT @hisashi_is: おお、谷口先生と堀井先生の対談！必見。 AIだけでなくロボットも含めての話なので、身体性の話（身体の表現次元数と各次元での身体操作精度が感情の離散化度合いに強く関わるはず）が気になる👀見なければ📝
0
2
0
この問題。「本当の目的にアラインし���いるのか」というのは客観的に判定できるものではなく、その都度、文脈と解釈のなかで「アラインできている状況」が生まれるのだと思う。 「目的」の記号創発問題といってよいかもしれない。
AIリスクの文脈でreward hackingやspecification gaming (＝目的への過適合)がリスクをもたらすと考えられているけど、 ある種のAI開発自体がreward hacking的であり、さらにAIに限らない開発や人々の日常的営為にもそれは大いにあ���、 そしてreward hackingを"成功"だと思う人がいたり、もう滅茶苦茶
0
5
9
しかし実際にそれをやってみることで、「言語」という大気圏の分厚さが初めてわかるのだろう。もしかしたらそれは、月まで届いているかもしれない。人間が試したことがないだけで。
0
2
2
先月のレポートでは、昨年の中間レ��ートから「(AI) Alignment」の定義を変えていた。 旧：開発者の目的・意図とAIの挙動の整合 新：人間（文脈によって開発者、運用者、利用者、特定コミュニティ、社会全体）の目的・意図とAIの挙動の整合 Gabriel氏の批判が批判していた点。
The new international scientific report on AI safety is impressive work, but it's problematic to define AI alignment as: "the challenge of making general-purpose AI systems act in accordance with the developer's goals and interests"
0
1
0
RT @rmaruy: @homme_pensant 【2/21（金）19時～ Open academia Lectures】小林晋平先生、佐伯栄一さんをお迎えし、お二人が作ってきた24時間のYouTube Live、クラブイベント等、型破りの科学コミュニケーションから見えてき…
0
3
0