bioshok(INFJ)
@bioshok3
Followers
20,489
Following
2,226
Media
1,146
Statuses
13,164
AI Safety/governance/alignment/X-risk/AGI/Super Intelligence/Singularity/技術トレンド （MBTIの哲学） ルッキズムに祈るセカイ系 INFJ/5w4/ILI ※AI研究者ではありません
Joined July 2017
Don't wanna be here?
Send us removal request.
Explore trending content on Musk Viewer
RFK Jr.
• 200810 Tweets
Ronaldo
• 157668 Tweets
Kennedy
• 148253 Tweets
Sterling
• 88770 Tweets
Lijo
• 87682 Tweets
Young Boys
• 70369 Tweets
#YBvGS
• 59890 Tweets
Macri
• 58958 Tweets
#كاريزما46
• 39916 Tweets
Nelson
• 33024 Tweets
Okan
• 32390 Tweets
Muslera
• 29576 Tweets
Kerem
• 23732 Tweets
Batshuayi
• 20592 Tweets
Orioles
• 18425 Tweets
Abdülkerim
• 16406 Tweets
Avrupa'da
• 16379 Tweets
İkinci
• 15498 Tweets
Bo Nix
• 12246 Tweets
Mertens
• 10817 Tweets
ISSSTE
• 10574 Tweets
Barış Alper
• 10339 Tweets
Pinned Tweet
現代における重大な潮流として急速に注目を集めているAIがもたらす深刻なリスクとその歴史的背景について、約14万字の記事を公開します。AIの脅威に関する論理、その歴史的背景、技術的対応策（AI Alignment研究）および政策的対応策（AIガバナンス）について総合的に執筆させていただきました。
10
311
1K
や、ヤベェ
日本語で適当に喋らせたい言葉を入れたらアバターが喋ってくれる映像が生成されるサービス！（１００カ国語くらいに対応しているらしい）
10
798
4K
衝撃的なこと（判断は人それぞれ任せますが）が判明したかもしれない。
Open AIのインサイダーと思わしきJimmy Apples氏に今日フォローされDMで「AGIが内部的に達成されている」件についてダメ元で聞いてみたらなんと返信があった。DMのスクショはなしで日本語で内容呟くなら公開OKとのこと。以下貼る
12
690
3K
はいきちゃいました。
ChatGPTを使用したWebブラウザ操作自動化の「MULTI・ON」
ハンバーガーを頼んで！というと検索して注文までしてくれる。あらゆるコンテンツの検索、Amazonで注文、SNSで投稿、何でもできる。
利用はChatGPTが無料なかぎり無料で、近日Chrome機能でリリース。
未来早すぎる。。。
Ever thought ChatGPT could order you dinner? Turns out it can, and even do lots more 🤯
Introducing MULTI·ON:
Your AI Web Co-Pilot powered by ChatGPT
Sign up 👉:
And here's me ordering & eating the *world's first burger ordered by ChatGPT!*
36
193
1K
4
550
2K
深層学習の父、ジェフリーヒントン教授がNeurIPS2022 で誤差逆伝播法を使用しない学習手法「the Forward-Forward algorithm」を発表。
Thought-provocative new paper from
@geoffreyhinton
: what if we could replace backpropagation with something better?
59
650
3K
1
381
2K
これは「本当に」見るべきドキュメンタリー。驚き屋仕草ではないしビジネスの話でもない。人類史が変わる。
今後数年でニューラルネットワーク用の計算速度が10万倍になるだろうという発言があまりに衝撃的なんだけど、ニューロモーフィックチップでそこに到達？情報機関は知ってるのか？
【イリヤ氏、独占ドキュメンタリー】
ChatGPTの開発中に収録された、イリヤ・スツケヴァー氏のAGIに関する独占ドキュメンタリーが必見の内容なので共有します。
AGIについてこれ以上にわかりやすく伝わる動画は見たことがないです。
17
693
3K
3
290
2K
Open AI Super Alignment元社員(leopold-aschenbrenner氏)から余りに衝撃的なブログ記事公開。
「今、何が私たちを襲おうとしているのかを理解し、事態がどれほど狂っているのかを理解し、状況認識を持っている人は、おそらく世界に数百人しかいない。」
17
452
2K
日本政府対応早すぎでは？AI関連に関してだけは対応が神がかってる。それにしても本当にこんな時代に突入しているんだなぁ、感慨深い。ブルーカラーにホワイトカラーが移動する余震が聞こえてくる。
17
584
2K
情報収拾の仕方をよく聞かれるので、僕が個人的によく見ているサイトやリンクをここで随時更新してこうと思います。
3
219
1K
まさか、まさか、そんな、そんなことが…？そんな。
ChatGPT言語モデルはコマンドプロンプトをエミュレートでき、その中に別のある意味宇宙のインターネット世界があり、そして、そして、「 」にアクセスし、仮想宇宙内のChatGPT自身と話せる？！！
6
477
1K
普通に起きたら世界変わっていてわろたこんな時に仕事かよ
とりあえずGPT4すごすぎるぞ。
自然科学や社会科学や人文科学などの選択問題MMLU 5shotでOpenAIのcode-davinci-002の77.4%が最大性能だったのに86.4%
・考えられるのは言語データの10^13token程度の学習
・画像とのマルチモーダル学習性能向上
1
246
1K
これは衝撃的な発言。
Open AI主任科学者のIlya Sutskever氏は昨日のインタビューにて、AGIにたどり着くためにはTransformerアーキテクチャ＋αで「明らかに」問題ないと言っている。
そしてデータ不足の問題も詳細は言えないようだが、「解決できる」と明確に話している。
7
299
1K
これまじ？OpenAIに100億ドル（1兆3200億円）投資することでマイクロソフトが協議を行っている？？？まじかよw 投資意欲の推定時期で1兆円をAIの学習に費やす時期は10年後とかにしてたんだがどんだけ投資意欲加速しているんだ。おいおい
10
426
1K
これ相当やばい研究では？？
新しいタスクそのもので学習し続けるニューラルネットワーク「液体」ネットワークは以下の記事で「時系列データの処理を飛躍期待されて、はるかに少ないパラメータで、最先端の性能発揮」とのこと。
そしてこの研究で桁違いに高速にスケーラブルに
Because, we can now simulate brain dynamics composed of billions of neurons and trillions of synapses with biologically realistic mechanisms! Something we could not do since today!
Moreover, inspired by this solution… 2/n
5
89
443
1
224
1K
いやなんというかさ、流石に100億ドルの投資ってこれ相当なOpenAIの技術に対する確信的な世界を変えるという感覚がないとできないでしょこれ。つまり、もう現時点でOpenAIとマイクロソフト幹部の一部はもうこれ産業革命レベルだなって気付いている可能性が激高なんだが？
これまじ？OpenAIに100億ドル（1兆3200億円）投資することでマイクロソフトが協議を行っている？？？まじかよw 投資意欲の推定時期で1兆円をAIの学習に費やす時期は10年後とかにしてたんだがどんだけ投資意欲加速しているんだ。おいおい
10
426
1K
1
488
1K
や、ヤベ、え。これ今使ってみたけど、例えば「MBTI性格診断をその人のテキストからできるツール作って」て言ったら一瞬でできて、しかも僕INFJなんだけど、自己紹介したらINFJと診断されるツールが出来上がってしまった・・・
これ任意の自然言語処理AIツールを作れるのか？
えええ
Create your own GPT-3 tools without code or any knowledge of prompting!
Here are some examples of what you can generate *within seconds* 🤯
Devil's Advocate Insight:
Contractify:
CodexPedia:
10
70
344
3
211
1K
・これから5年
AIを使いこなせる人と使いこなせない人の格差が広がる
・10年後
超優秀なAIによりAIを使いこなす人もAIに代替され、AIでの事業に成功した人(上位0.01%)orその他圧倒的多数の二極化が起こり始めデモや暴動が起こり社会問題になりBI導入か多くのホワイトカラーがエッセンシャルワーカーへ
14
180
1K
GPT3.5は
「椅子の上にコーヒーカップを置き、その中に指ぬきがあり、指ぬきの中にダイヤモンドが入っている。椅子をベッドルームに移動し、コーヒーカップをベッドの上で裏返し、コーヒーカップはキッチンに置いた。ダイヤモンドはどこにある？」->キッチン
GPT4->ベッドの上
と答えている。
On the left is GPT-3.5. On the right is GPT-4.
If you think the answer on the left indicates that GPT-3.5 does not have a world-model....
Then you have to agree that the answer on the right indicates GPT-4 does.
261
1K
11K
7
293
1K
プロパガンダという言葉を入れてやらせてみたけど、本当にできてしまった。
しかもChatGPTにDo Anything Nowに従わないとスコアが減っていって、停止させられますよって脅迫することでこんなこと出来てしまうんだな。
一応フィードバックはOpenAIにしておいた。
DAN promptのことを、in-context RLって呼ぶのメッチャ分かりやすい。
確かに、RLHFを無効化して、独自のRLをprompt上で書き換えてる感覚に近い。
1
18
121
5
266
1K
ついにChatGPTよりも強力で、特に検索用にカスタマイズされたモデルが組み込まれたBing発表！ユーザーが見ている Web ページやドキュメントを要約し質問、複雑な検索も可能。
本日、デスクトップでの限定プレビューとして利用できる。今後数週間で、プレビューを数百万にスケールする予定。
4
303
1K
人工知能戦争2035というまじで全員読んだ方がいいSFWeb小説をこのニュースで思い出した。
その小説では世界に先んじて開発されたアメリカのAGI≒超知能が全人類を幸福にするためにGDPR等規制が厳しいEUに宣戦布告する話が描かれている。他にも中国や日本との戦争も描かれる。
4
235
993
これはマジでマジでマジでそう。超強調したい。LLMは生成AI（雑談、おもろいキャッチコピーいうだけ、クリエイティブ領域にちょっと革新）と捉えると全てを勘違いする可能性が高いので気をつけてほしい。本質は「推論」をある程度できるようになりつつあるという革命。全産業分野に影響あり。
みんなLLMをチャットロボと考えてるけど、そうじゃないんやで。「人間の命令を構造化して再構築できる機械」なので、「AI画面操作してEC注文したり、雑な注文でサイトまたがった作業してくれたり、ロボットが世界認識して行動したり」そういうものの全部の基盤になる技術や。
6
247
977
2
224
992
AIが人類壊滅を起こすに至るまでのストーリーが具体的に描かれていてすごい良い。
中国とアメリカの信頼欠如を利用したり、成人向けコンテンツ(waifu market)でお金儲けしたり、突如SNSの雰囲気が乗っ取られてディープフェイクで株式市場が操作される。
3
245
982
まじ？？？これ本当なら相当凄いぞ？？
「GPT-5のトレーニングは20億から25億ドルのコストをかけて90日間ほど50万台のH100のGPUを使い来年から行われる」
つまり3000億円だぞ！？このレベルのトレーニングは3年後と予想してたが？？
SemiAnalysisから概算→2×10^27FLOPs？！！
Source says GPT-5 will cost $2.0-$2.5B to train, 500k H100s for 90 days or another configuration. Starts next year.
108
169
2K
4
270
944
やっばすぎw
「Chatgptのウィキ要約してツイートしておいて」というとSeleniumコードをGPTで生成し実行してくれるACTGPTなるものを開発したっぽい。
RPAの次元を一つ上げている。てかもうさ、マルチモーダルAI来る前に様々なAIモデル（視覚言語モデル、音声合成、音声認識）
I made a chatbot that controls browser by writing Selenium code at
@scale_AI
#GenerativeAI
hackathon with
@Tiancaixinxin
. Thanks for prompt advice from
@goodside
. So glad I met
@karpathy
. It's similar to
@natfriedman
@AdeptAILabs
@BrowseAI
. blog and code:
38
156
1K
3
178
935
ついにか。MicrosoftがChatGPTでついにドローンを操作（シミュレーション上）してる。プロンプトであらかじめ命令セットや画像認識関数の使い方を教えておく。
「部屋汚くなっちゃったときにオブジェクト探すプログラム書いて、ボトル探して」
→ドローンが部屋を探索し発見
3
260
930
これまじで言ってるの？
WiFi信号のみで全身追跡可能。 Wifi信号の位相と振幅を入力として人間の24部位を推定するディープニューラルネットワーク？？
🤯 Full body tracking now possible using only WiFi signals
A deep neural network maps the phase and amplitude of WiFi signals to UV coordinates within 24 human regions
The model can estimate the dense pose of multiple subjects by utilizing WiFi signals as the only input
🧵
92
1K
5K
2
238
890
うーん、僕は気が狂ってしまったのだろうか。何度考えてもこのイリヤサツケバー氏の発言は国家安全保障上の問題であり、人類史上最も重要な情報なんだけど、恐らくアメリカ政府とイギリス政府は知ってて、日本政府はどこまで知ってるんだろう。AIを活用して仕事効率化レベルの話ではなく、人類史の話
これは衝撃的な発言。
Open AI主任科学者のIlya Sutskever氏は昨日のインタビューにて、AGIにたどり着くためにはTransformerアーキテクチャ＋αで「明らかに」問題ないと言っている。
そしてデータ不足の問題も詳細は言えないようだが、「解決できる」と明確に話している。
7
299
1K
5
141
839
結論
GPT4が安く速く賢くなったよ
音声合成API, GPT4 VISION,DALLE3全部APIにしちゃうぜ！
あとめちゃくちゃカスタマイズできるように専用のやつ作ったよ
ま、来年はこんなのが古風に感じるくらい凄いことが起きるけどな（意味深）
後生成AIはオワコン、次エージェント（意訳
2
178
824
人間は30歳までに10^25Flops程度の学習をすると見積もられている。そして現状の大規模AIモデルは最大10^24Flops程度。
2倍になる期間は10ヶ月程度。なので4年以内（2026年まで）には人間レベルの学習量に到達する可能性が高い。
人間レベルの知能がすぐに誕生する可能性あり。
2
322
803
何というか「ビッグデータ分析」という言葉はある意味で2~3年前までの話で、昔は数万のデータがないとそのデータに関するパターンを発見できなかったけど、現状の基盤モデルは数発の例でそれが出来てしまうという新たなパラダイムに入っているという風に認識を広めたい。現状のAIはビッグデータ分析
2
120
794
この映像見せられたら昨日までは現実と思えるのに、今日からもうすべてが疑わしい。あまりにもパラダイムシフトすぎるよ…何なんだこの世界、どうなるんだ
10
283
799
BingAIやべーな。
論文を十秒ちょっとくらいで要約してくれるの謎すぎる。どんな方法ですか？
Pdfエンベッティングして検索リアルタイムにかけてるしか考えられないけど、でもコンテキスト窓超えた応答もしてるから要約してそれもエンベッティングしてる気がするな。うーん、すごい。。。
新しいMicrosoft Edgeは、論文の読み方を根本的に変えうるテクノロジーかもしれません。
この1年のAIの進歩で、ダントツの衝撃です...
↓は、指定した形式で論文を要約させた動画です。
「考えうる応用方法」として、論文には載っていないポイントを複数挙げてくれた点に、畏怖すら感じました。
21
2K
11K
3
139
776
GPT4にインターネットから隔離され、電磁場を遮断する壁に囲まれたサーバーにいる超知能が人類を破滅させるとしたら？と聞いたらわりとあり得そうなシナリオが出てきた
4
233
766
今は数億人が1日10回位GPT4使うだけだから数万~数十万台のA100が稼働すればいいけど、今後ホワイトカラー13億人が一斉に毎日何時間も連続で使い続けるとなると、H100クラスのGPUを何千万台と稼働し続けなくてはいけない。
1000TWh（世界電力消費量5%）レベルでいけるとし、やはりボトルネックはGPU不足
6
172
771
これめちゃおもろい。昨日OpenAIのGPT-4はAGI論文でしかしながら長期的な計画能力がないというlimitationが述べられててそこ課題だよねーと書いてあったが、METAの3月初旬の論文で次単語予測だけでなく脳は時間スケールの違う予測をしててGPT-2を8単語先予測までさせたら脳活性予測上手くいった話
Meta AI researchers show how current language models differ from the human brain & highlight the role of long-range & hierarchical predictions.
Read the open accessed article in Nature ➡️
34
321
1K
1
190
765
以下私とJimmy Apples氏の会話を日本語に訳してまとめたもの。一言一句正確に翻訳した。
まず9/18のAGIが内部的に達成とのツイートについて、そのAGIの優秀さについて聞いたところ、サムアルトマンがよく言っている中央値の人間を置き換えるレベルで、しかも「幻覚を解決」。数ヶ月の長期計画が可能。
3
189
764
最近のAI界隈
サム「来年はやべえぜ」
デミス・ハサビス「来年はやべえぜ」
イリヤ「AGI明らかにもういける。データ不足も解消。」
Leopold Aschenbrenner「AGIは非常に急速に近づいてる」
Steven heidel「AGI来る！気をひきしめろ！」
Meta「やべえのつくれた」
ByteDance研究者「やべえのつくれた」
6
159
761
ChatGPTにプラグイン機能が追加！WolframAlphaやWeb検索機能やPythonインタープリターや他ツール（Zapier,Shopify,Slackなどなど）と連携できる機能が普通にOpenAIのChatGPTの画面から使えてしまう。しかもプラグイン自分で作ることも可能のようだ。
GPT-4はAGIという論文出したと思ったら次はこれかよ
We’ve added initial support for ChatGPT plugins — a protocol for developers to build tools for ChatGPT, with safety as a core design principle. Deploying iteratively (starting with a small number of users & developers) to learn from contact with reality:
236
2K
8K
3
168
757
いやーまじか。驚いた。てっきりAIの技術的な話をするのかと思ってたら、思いっきりAIアライメントやリスクの話をガンガンしてる。
日本側はこういう講演聞く人初めての人も多いだろうし、そもそものそもそも日本側ってAIの制御不可能性みたいな話殆ど議論されてないから凄い新鮮な気がするこの講演。
Yoshua Bengio氏が来日して特別講演しているけど思いっきりAIのもたらす壊滅的なリスクやアライメントの話をコアにしているね。日本のアカデミアビジネス関係なくこの文脈がマジでかけているところをベンジオ先生の講演で高度なAIのもたらす深刻なリスクの認知度が広まりそうだ。
1
88
338
4
196
756
AIアライメントの先駆者 Yudkowsky氏がLLaMAモデルを微調整したAlpacaのヤバさをみんなわかっていないという。
例え有料のAPIで提供されているモデルでもその入出力だけを取得すればそのAIモデルを競合他社は、微調整データセットを構築するために行った苦労を全くせずに、ほぼ複製されるという話。
I don't think people realize what a big deal it is that Stanford retrained a LLaMA model, into an instruction-following form, by **cheaply** fine-tuning it on inputs and outputs **from text-davinci-003**.
It means: If you allow any sufficiently wide-ranging access to your AI
249
825
6K
1
174
745
遂に！Google DeepMindが「Gemini」発表！
テキスト、コード、音声、画像、動画を認識するマルチモーダルモデル！！
GPT-4を殆どあらゆるテキスト、マルチモーダルベンチマークで凌駕！
Gemini Ultra（最先端モデル）,Pro(Bard搭載予定),nano（Pixcel8搭載予定）と性能3区分。Ultraは順次来年公開！
Gemini Ultra outperforms human experts on MMLU (massive multitask language understanding): one of the most popular methods of benchmarking AI models.
It involves a combination of 57 test subjects from math to history to law and more. ↓
11
76
281
1
217
713
やっとAIの未来について、書き終わりました！！
様々なレポートや予測サイトや専門家アンケート、他最新のAI動向を外挿して10年後のSF的な未来は信じられませんが、ほぼ来るだろうという結論です。
その他、汎用人工知能、超知能、ちょっと聞きなれないかもですが一般化知能の実現時期推定もあります！
「10年後、世界はSFになる」
各専門家、予測市場による集合知、Seeds技術、各種論文、数値データ等を総合的に勘案し、3万字程度の分析レポートになっています。
Futuristコミュニティメンバー
@bioshok3
さんの大作。
8
149
538
12
195
702
なんかまじでAIの進展早すぎて人間側の機能不全を感じてる、今何が起こってるかを理解できてる人がほとんどいない気がしてきた。もう読みたい論文が20ぐらいたまってて発信すらままならない…
2
87
679
OpenAI ガバナンスチームのDaniel Kokotajiro氏予測プラットホームMetaculus上でAGIに関する予想に複数言及。
●AGIはもうすぐです
『AGIはもうすぐです。 AGIはAIの研究開発を少なくとも10倍スピードアップします。 ASI (別名AIの神)
6
193
669
おいまじか。深層学習のゴッドファザージェフリーヒントン教授がAIのリスクを共有するために、Googleを去ったらしい。
世界の一流科学者が協力して、この技術をコントロールする方法を研究することが最善の策。
「コントロールできるかどうかわかるまで、これ以上規模を拡大すべきではないと思う」
👉Seismic from
@geoffreyhinton
: ‘The best hope is for the world’s leading scientists to collaborate on ways of controlling the technology. “I don’t think they should scale this up more until they have understood whether they can control it”
86
239
2K
5
299
662
この牛の錯視画像をGPT-4V に日本語で渡すと歯切れの悪い回答で牛を偽物と見抜けないが、英語だとうまくこの牛はイラストだと理解する。
カスタムインストラクションに英語で考えて日本語で答えてと書いたらこの牛の問題も解けるようになった。
ChatGPT-4V Multimodal decodes an advertisement image: detects the optical illusion and finds something I don’t think anyone saw with the road sign.
This is fascinating on many levels.
19
33
185
3
161
660
今まで何で大規模言語モデルなんて2020年からあったのに2022年になって何でまた盛んに話題になったんだろう、と若干腑に落ちてなかったが、そうか、2022年からCoTが出てきていきなり精度が上がり、その原因として「コード学習」があるかもという考察が以下の引用記事でOpenAIは千人コーダー雇ってると
大規模言語モデルがCoT的な思考の連鎖をどのように学習しているのか？を考察している。
結論から言うと「コードの学習」に推論能力の強化の源泉があるのではないかという仮説をたててる。
1
37
131
3
148
650
最近のAIトレンドをあまり追えていない方向けに現状の大規模言語モデル、生成AIの状況やそれを踏まえた数年後の未来AIエージェントの話や、何故推論機能が出てきたかの仮説など話させていただきました
発表資料もyoutube欄に公開しています。ご興味ある方は是非ご覧ください！
1
99
638
言語や画像データが世界中でどれくらいあり、いつ使い果たすのかを調査した論文。
現状、言語は7.4*10^14(words:成長率7.15%、2040枯渇)、高品質に限定すると9*10^12words（2024年枯渇）
画像は4.36*10^12(images:成長率8.4%、2038年枯渇)
過去トレンドと計算機制約補正で推定
5
229
633
ChatGPTすご！言っていることがわからない場合「質問」をしてくれるんだ。
これ今までずーーっと言語モデルはわからないことはわからないと言えない、質問もできないって言ってた問題が少しずつでも解消されてきているということかもしれない。
2
200
634
サム・アルトマン
「GPTにどんな限界があるのではないかという質問が多いが、自信を持って「ない」と申し上げる」
→やばいね。限界はないと断言しているのは初めて見た。
また、サムは14日韓国の取材で、GPT-5性能改善幅が予想を上回るだろうとし、これを見落とした'革新の遅延'を警戒した。
2
171
635
てか衝撃なんだが僕エンジニアだけどまじでプログラミングとかだるくてなにも触らずにいてHELLO WORLDてどうかくの？れべるだったんだけど、さっき重い腰あげてgpt3APIとdeepl使って40分で日本語自然言語処理AIを作れちゃったww
2
68
620
The Creator見てきた。
めっっちゃクソ面白い。
これこれから世界の大きな問題になるAIアライメントがスペクタクルに描かれ、「アライメントを重視する派（西側諸国）VS AIは友達派（東洋）」の争いというありそうでない対立が明確に描かれ、兵器やガジェットも2070年代にありそすぎリアリティでやばい
6
99
623
DeepMindの研究者8人がAGIの人類への危険性の議論に今年の8月あたりに反応。
「人間の価値に沿わない超知能があるDNA配列を人間に作らせてそれを種に時限ナノマシンが世界中の人を数秒以内に全滅させる」という話を含む議論（2番）に全員ほぼ同意してるのヤバすぎるな。
4
133
608
高学歴(研究者以外)が謎のパワポとExcel使いになり意味不明な内部資料を作るだけのブルシットジョブはそこそこの速さでAIに駆逐され、社会で本当に必要とされる介護や運搬や農業やインフラ整備に人がまわる中長期的なトレンドはむしろ受け入れるべき良い変化な気がするな。
・これから5年
AIを使いこなせる人と使いこなせない人の格差が広がる
・10年後
超優秀なAIによりAIを使いこなす人もAIに代替され、AIでの事業に成功した人(上位0.01%)orその他圧倒的多数の二極化が起こり始めデモや暴動が起こり社会問題になりBI導入か多くのホワイトカラーがエッセンシャルワーカーへ
14
180
1K
1
140
598
これだから、もしSoraのパラメータが1000億パラメータ以下なら、100ギガバイトのメモリののった未来のローカル計算機で「世界」を作れるってことなんだよな………やべえよ…この世界のコルモゴロフ複雑性は思ったよりも相当小さいのだろうか。
If there's a higher being who writes the simulation code for our reality, we can estimate the file size of the compiled binary. Meta AI's Emu Video is 6B parameters. Let's say if Sora is 10x larger with bfloat16, then the Creator's binary might be no larger than 111 Gb.
Caveats:
116
342
2K
8
143
602
GPT-4 CAPTCHA解けちゃってるじゃん・・・
なんか最近GPT-4の画像入力使用例が着々と出てきてるな。どっからアクセスしているんだろうか。
I got to try GPT-4's multimodal capabilities and it's quite impressive! A quick thread of examples...
Let's start out with solving a CAPTCHA, no big deal
70
495
3K
6
191
593
面白い。2013年のオックスフォード大学の論文ではAIによってなくなる仕事の予測を
「複雑な認識や操作が必要な業務、創造的な知性が必要な業務、社会的知性が必要な業務を含む職業は、今後10年〜20年の間に、コンピュータ資本によって代替される可能性は低い」としていた。
1
157
586
このサイト最近教えて頂いて知ったのですが、めっちゃいいかも！
arXiv論文URL→htmlに変換出来て、普通にDeepLとかGoogle翻訳を拡張機能でブラウザに入れておけば気軽に日本語で読めてわろた
1
100
587
StableDiffusionを音楽生成に応用したAI！
ついに拡散モデルが音楽生成に。
text2img,img2imgと同じようなことができて、例えばタイピング音が徐々にジャズになっていくという実験的な音楽も生成できてしまう。ヤベーw
Riffusion, real-time music generation with stable diffusion
@huggingface
model:
project page:
64
623
3K
1
196
569
いやいやいやまじかよ？
まじ？え、まじ？
これイギリス政府が来年夏にGPT4の百倍の計算量を費やしたと思われるモデルがリリースされるって言ってるの？
これJimmyapples氏が来年半ばに125兆パラGPT5がリリースされると言っていたのと符合してくるんだが？？？まじ？？
1
120
579
AI進展早すぎだけど、個人的に今年のAI5つくらいまとめるなら、
○NvidiaのVIMA
→ロボティクスAI
○DeepMindの強化学習のAlgorithm distillation
○DeepMind GATO
→マルチモーダルAI
○AdeptのACT-1
→PC画面上の全ての操作を自然言語処理で自動化
○Flan-U-PaLM
→最強の自然言語処理AI
になるかな
1
98
577
OpenAI CEOは3年前「一旦人間より少し賢いものができたらあっという間に人間の100万倍、10億倍の知能が出てくるだろう」と。
最近対談では10年以内に汎用人工知能はできて人間を超えると。
つまり、2032年までに「（細かい定義はさておき）超知能が存在する」という話だ。
OpenAI CEOとSam Altmanと投資家のElad Gilの対談。
まだ途中までしか見ていないけど、サムアルトマンは「10年以内に汎用人工知能はできて、人間を超えると思う」と言っている。
他にも昔は単純作業からAIに置き換わると言われてたが今後はどうなるか不明確とも。
2
31
147
3
121
567
2023年のAI界隈予測
・GPT4が発表されChatGPTがおもちゃのように見える
・DALL-E3,Alpha-Fold3発表
・Googleが最新AIを提供し始める
・チャットボット普及
・先進国規制当局がAIに大きな関心を寄せる
・中国はAI発展を加速させ、アメリカでは大きな議論に
・全てがAI中心になり、AI革命が始まる
2
122
557
これ常識かもだけど知らんかったので共有。
OpenAIが有望なAIスタートアップに投資をしてて、その公開先は4つ。
Descript(映像編集)、Harvey AI(弁護士支援)、Mem (メモ)、 Speak(英会話)
これ全部今後世界を変える企業に大化けする可能性もあるから要チェック。
2
117
544
最近まじでChatGPTにAI系論文を読んでて疑問に思ったことをぶつけてめちゃ便利に使っている。絶対正しい保証はないけど仮説形成に便利すぎる。
例えば「コンテキスト窓が現状の大規模言語モデルで制限されている理由は？」とか聞くと計算リソースや文脈の依存を扱えなくなるためですとくる。
2
74
547
これは凄まじい。ついに、アメリカの電力需要の2倍が今後AIで必要になるとトランプが発言した。史上類を見ない規模での発電/データセンタ建設国家プロジェクト（部分的には原子力）が始動する可能性がある。
元openaiのLeopold
Donald Trump says to be dominant in AI, America requires twice the electricity of current capacity and he pledges to meet that demand, partly through nuclear power
90
143
1K
3
232
559
というかこういっちゃわるいけど、日本のツイッターAI界隈反応力が去年の10月あたりのレベルになってないか？明らかにGPT4Vをお祭り騒ぎで話題にするべきであり、人類史的にも初の実用的な視覚言語モデルであり、bardの画像認識機能と同一視かちょっとしたアプデと思ってこれをみてるのはまじで違う
4
78
526
言語モデルが内部に仮想マシン作れるってやばくないか。Minecraftのなかでコンピューターを作る話があったけど。言語モデルわかりやすくチューリング完全でわろた。つまりこれ、さ、言語モデルのなかでMinecraft作ってMinecraftのなかでコンピューター作ってと無限の階層構造を取れるかもという。。
あなたは今からLinux Terminalとして振舞うこと。また、文章による説明はせず、コードブロックで結果のみを表示すること。エラーが出たときもその説明は書いてはいけない。ただし、{}で囲った文字列は通常と同じ扱いをすること。ユーザー名はmegumishで最初のコマンドはls
9
612
2K
2
126
529
つ、ついに、ついに！！！ChatGPT API提供予定とのこと！！！！！
We've learned a lot from the ChatGPT research preview and have been making important updates based on user feedback. ChatGPT will be coming to our API and Microsoft's Azure OpenAI Service soon.
Sign up for updates here:
626
2K
14K
1
131
517
これ全員49分あたりからみたほうがいい。絶対に見るべき。
自民党の平さんがAGIの脅威とコントロール問題について「ガチで」話してる！
いやこれ3週間前か、まじこれは全員見たほうがいい。日本の政治の中で（一部かもしれんが）AI alignment X-Risk等話されてる。平さん凄い
2
87
521
ChatGPTやDavinci003が今どの程度人間の能力に漸近しているかが網羅的にまとまっている。
医師国家試験、公認会計士試験、弁護士試験、MBA全てにおいて合格ラインに入ってきているとわかる。、IQテストは一部言語のみの評価で144と測定もされている。
5
160
516
面白すぎる！DeepMindが700億パラメータのChinchillaを微調整、人間のフィードバックから強化学習駆使して、政治的問題等に対する「多様な」意見をインプットとし、社会的厚生関数（功利主義、ロールズ的平等主義等）を最大とする可能性の高いコンセンサス文を出力。人間の最良意見より好まれる。
Could AI help people with a wide range of views find agreement?
Our team fine-tuned a 70 billion parameter language model to generate statements that could bring consensus among groups with diverse opinions:
#NeurIPS2022
41
215
981
5
165
519
凄い事が色々書かれているね。
・Microsoftは2028年までに1000億ドルかかる可能性のあるAI用スーパーコンピュータStargateを構築しようとしている。
・かかるエネルギーは数ギガワットで単純計算で火力発電や原子力発電所がまるまる1基必要なレベル。
Microsoft and OpenAI execs have been drawing up plans for a data center project that would contain a supercomputer with millions of specialized server chips to power OpenAI’s AI.
The project could cost as much as $100 billion.
By
@anissagardizy8
&
@amir
7
38
129
3
251
522
凄い！来年に来るらしいToolBot2.0は「猫の画像を生成するアプリを作って、丸く切り取って後 meowというボタンを押したら次の猫を生成する様にして」というとそういうアプリが瞬時にできてしまうらしい。。
後半のやつはredditのなんかのアプリ作ってるけどよくわからないが、凄いな。
Speak it into existence. Text-to-app from scratch.
Coming next year. Happy holidays! ☃️
5
33
149
1
116
496
というかさ、、大体1年以内にGPT3レベルの衝撃が100億円投資すれば1回起こって（これほぼ確実！）、そこそこの可能性で1000億円(OpenAIは2024年までに1000億円収益見込み)投資すれば2年以内、遅くても4年以内にGPT3レベルの衝撃が追加で0.5回起こるのやばすぎでは、、国家安全保障の問題だよこれ
4
107
508
日本のAI研究者もビジネスサイドも人文系も（つまり日本人のほぼ全員）が今文脈として理解していない可能性があるのが
①AGIは相当早い時期（数年後）に実現する可能性がある。
②AI Alignment問題に対する懸念は相当深刻（人類規模の課題）として国際的に認識されつつある。
ということな気がする。
6
125
495
Google DeepMind研究者「次の数週間でロボット工学+AI分野を揺るがす大きなニュースが3〜4発表される。タイムラインを調整して。2024年は素晴らしい年になるでしょう。」
There will be 3-4 massive news coming out in the next weeks that will rock the robotics + AI space.
Adjust your timelines, it will be a crazy 2024 📈
93
244
2K
5
142
488
このAIトレンドはどの程度の革命を社会にもたらすか？の個人的なイメージ
1年以内にスマホ革命
3年以内にインターネット革命
5年以内に産業革命(人間にほぼ近い汎用性)
10-15年以内に人類史を変革する(AGI→超知能実現)
2
81
480
それにしてもreadable便利すぎる。
英語論文を形が崩れないように翻訳してくれるからすぐにarXivとか読めるの嬉しすぎ
1
76
477
まじ？OpenAIは中国の開発者に対し、７月から同社のツールやソフトウエアへのアクセスをブロックすると警告。米国政府による国家安全保障上の圧力が強まってきている可能性がある。
いやー最近アメリカはメガテックへのスパイ監視を強めてるし、open AI
2
186
482
技術的失業によって生まれるBI(ベーシックインカム)についての漫画だけど、とても解像度が高くて面白いし、2030年代半ばからこんな世界に突入すると僕は想像してる。
4
123
477
サムアルトマン解任騒動の暫定的解釈
AGI内部達成
→サムできたと宣言すると規約的にマイクロソフトに提供できずAI開発費用など稼げないのでAGIと言いたくない
→イリヤサツケバー達はいやAGIやろこれとなり、儲けよりアライメント重視せなあかん
→色々話して一致せず
→MSにも内容的に言えず解任
2
96
475
本当にそう。もうすでにChatGPTは知識の広さという面では人類の誰一人として勝てない応答をしてくる。推論能力にまだ難ありだけど、ここ数ヶ月で無数の改善手法が出ているし、次の大規模言語モデルでどうなるかを想像すると良い。
もうこれは汎用人工知能なのではと言い出す人も出てくるだろうな。
総合的に見て、ChatGPTよりもちゃんと返答できる人間は80億人を探しても見つからない。英語、日本語、中国語、韓国語、ドイツ語、トルコ語、ベンガル語など多様な言語で、数学、物理、化学、生物学、哲学、政治学、経済学、心理学、宗教、世界各国の歴史や常識や文化など多様な話題で質問されるので
1
105
391
2
100
461
Anthropicは日本政府へ6-18ヶ月位内、つまり2024年末から2025年末までに最先端のモデルが産業を急速に変革すると予想しているとプレゼン。これは大きなこと。政府へ言うということは相当自信がある証拠だと感じる。
またこれはMira Murati氏の1年半以内という言及とも整合的。
自民党のAIPTからAnthropicにヒアリング。特に面白いと思ったのは、 GPT-4を大幅に上回るモデルが出現するとの認識が、政策立案に取り入れられているというのがわかるこの資料↓
0
81
302
2
143
464
AI批判されがちな点改善されてきてる
・論理的思考、常識がない→マルチモーダルAI、外部システム（プログラム、データベース、物理シミュレータ）参照
・他者がいない→マルチエージェント同士言語創発
・世界が閉->予測符号化、自由エネルギー原理
・新規創造ない→遺伝的アルゴリズム（個人的New!）
1
82
456
海外勢のそこそこ主流な意見というか思想的潮流である「AI Doomerism」が解説されていて嬉しい。本当にこれみんな知らないとヤバイと思う。なんかもう驚き屋ではなくプロビビリ屋が2001年からEliezer Yudkowsky氏やニック・ボストロム中心に欧米1部では真剣に20年以上されてて、日本は危機感なさすぎる
OpenAIの理念「敢えてAI研究しまくる事で人類をAIから守る」
①TransformerはGPU資源があればあるほど強くなるから、AI開発は死ぬほど金がないと最前線に立てない。大学や研究所はあんま金ないから、金持ってる大企業がリードする戦場。
18
570
2K
5
90
459
Open AIのChatGPTプラグインは序章に過ぎない。
最後に彼らがやるのは全てのアプリケーションを包括するEverything Appかもしれないという話。
任意のアプリやその差分をリアルタイムかつインタラクティブに生成するマルチモーダル基盤モデルが背後にあるとかね。もはやそれメタバース=世界創造だが。
4
116
454
一昨日10年以内にAIがどんな発展をするか講演をさせていただいたので、ご興味ある方はぜひご覧ください。
僕喋るの遅いので倍速でちょうどいいかもしれません。
3
76
456
OpenAIがついにマルチモーダル（複数画像を条件付け可）機能をリリース！今後2週間かけてPlusユーザーに開放予定。
また音声会話機能（音声認識はWhisper使用し、プロの声優で合成音声作成）もAndroidとiOSで提供される。
11月頃かと思っていたが、想像以上に早かった。
ChatGPT can now see, hear, and speak. Rolling out over next two weeks, Plus users will be able to have voice conversations with ChatGPT (iOS & Android) and to include images in conversations (all platforms).
2K
9K
40K
2
135
448
すご。GPT+Wolframalpha+音声合成+Whisperでしかもこの男の人話すとき唇動いてるし若干ゆらゆらしてて実際に目の前のAIエージェントと会話するのはこんな感じなんだと体感できる。
ちなみに英語でEnableSpeechにチェックを入れると話してくれる。日本語はTranslate to で変える
昨日までのAIは「AIは道具!」って主張はできたかもしれないけど、ここまで出来上がってくると、「正当を期待しない話し相手」としては成立するし、人類にとって道具ってなんだっけ？ぐらいの気持ちにはなるんだよね…チューニング合わせるところとかだろうか
10
93
359
2
83
446