まぐろ
@maguroIsland
Followers
2K
Following
178K
Media
940
Statuses
13K
筋トレ学部深層学習専攻D5／Generative Models, Systematic Generalization, Visual Commonsense／令和6年度覚醒プロジェクト／アイコンは皐月恵様（@kuroe16370547）に描いていただきました🥺
首都
Joined October 2018
cvpaper.challenge advent calendar 2022の5日目の記事を公開しました！. 博士課程で感じてきた苦悩と、それを踏まえた上での研究をより楽しくしていくtipsを紹介した記事になります.ぜひ見てください！.
1
11
66
全研究者読むべき資料だ、、、.3つ目のところがありえん刺さってる
機械学習若手の会 #YAML2024 での招待講演『研究の進め方 ランダムネスとの付き合い方について』のスライドを公開しました.
0
172
1K
自分の卒論とか論文をゴミって言うの何がダメって、共著だったりサポートしてくれた謝辞の人たちにも矛先が向いてることなんですよね（共著側の人はサポートするんじゃなかったと大抵怒ると思います）.
3
193
1K
arXivに共著の新しい論文がでました！.拡散モデルはメモリを多く占有するので、画像をパッチ分割して学習させることで、推論時のメモリ効率を上昇させました。.また、驚くべきことにパッチ分割をすることが、画像生成品質も向上させることを明らかにしました。.
1
60
376
統計的因果探索読了.今まで読んできた本の中で最も素晴らしい本の1つだと思う.行間が広すぎるところは一切なく、使った仮定や数式はちゃんと都度参照してくれる神本だった（ゆえに初学者を躓かせない）.いつか本を書くときはこの本の書き方を参考にして書きたい
1
26
277
データセットの複雑性を測る指標.データセットの複雑性を測る指標でCNNのエラー率にとても高い相関がある指標を提案しており、効率的なデータセット削減にも貢献し、従来手法より100倍以上高速化した論文.個人的にはCV分野の影響は絶大でベストペーパーで遜色ないと思いました.
0
52
258
OpenAIが公開したブログのDALL・Eはtext2img的な観点からも面白いが、Raven's Progressive Matrices (RPM) というIQテストが解けていることが非常に興味深い.RPMが解ければそれが知能 (Crystal Intelligence) とも言われているので、知能についてちゃんと考えなくてはいけない
1
72
243
Rubin流，Pearl流，Potential Outcome Model，SCM，反実仮想機械学習といろんなワードで頭がごちゃごちゃだったが，これでかなり整理できた（この情報があってるのかは僕には判断できませんが）.
1
23
218
査読でshouldを使うときは「したほうがいんじゃね？」くらいの気持ちで使ってるんですけど、結構強めに聞こえたりするんですかね.
18
12
204
先日のスキルアップAIキャンプでの講演のスライドを公開しました！.GANの歴史についてざっくり紹介したスライドになります.40分の���演時間だったので、乱暴な省略もありますが、ご了承ください.
0
38
194
生成モデルについてのサーベイが公開されました！.Disentanglementは僕と岐阜大の方が担当しています！.前回の資料は歴史を総なめしていましたが、今回はICLR2020、NeurIPS2019の全てのDisentanglementの論文を網羅しており、トレンドや有力研究者も紹介しています.是非ご一読を！👏👏💪🐩.
「Generative Models」のメタサーベイ 資料を公開しました！主にDisentanglement, Image2Image Translation, Image Manipulation, Latent Spaceのトピックについて扱っております。有力研究機関/研究者についても紹介しております。.
1
25
170
時間を多く使ってもいいということで、試しに数式ガッツリの資料にしてみました.発表自体も至らない点もあり、かなり眠くなる発表だったとは思いますが、何か直したほうが良さそうな点についてフィードバックいただけますと幸いです！.本日の発表資料です.#japancv.
0
24
169
9/7の19:30〜21:00でスキルアップAIの講師として、GANの歴史の説明から始まり、最新のStable Diffusion等の拡散確率モデルまで俯瞰的にざっくりお話していきます.お時間あれば是非見ていってください！（数式は出てこないので、他の分野の方とかにも気軽に見てほしいです！）.
2
33
156
僕の書いた記事が掲載されました！.GANやってる人にとって読みはマストな論文です.是非一読を！.
訓練データに存在しない画像の生成！？その名も"外挿"！.画像を小さく分割したパッチごとの生成により"外挿"、"State of the Art"、"計算量削減"を達成したCOCO-GAN堂々の登場！！.
0
33
149
NeRFを取り込んだGANにおいて、高解像度画像を生成可能、かつ、interpolation, style mixing, inversion, semantic editingも可能にしたStyleNeRFを提案.肝はartifactの出ないupsampler、計算コストを軽くするための蒸留 (1/2).
StyleNeRF: A Style-based 3D Aware Generator for High-resolution Image Synthesis.abs: a 3D-aware generative model that can synthesize high-resolution images with high multi-view consistency
1
35
152
学振落ちてもACT-Xとか覚醒、学内グラ��トとかにガンガン出すのがいいと思います.学振は15%前後しか通らない上に、システム的に必ず報われるものというものでもないので、いろんなグラントのバッターボックスに立つのが大事です（僕も最初のDC2通るまでDCx2、学内x2、ACT-Xの計5本落ちてます）.
1
12
135
ICLR2020にヤバそうな論文見つけた(NLP疎いけど凄そう).教師なしで文構造と文の意味のディスエンタングルメントを可能にしている.文構造同じで意味が違う文を正しく分けれると主張している.
0
19
134
今年は卒業とかガン無視なので、こんな目標で行きます. ・トップカンファ1本以上（1stで）通して、3本以上投げる.・AtCoderで水色coderになる.・論文を1000本以上は読む（600本以上はまとめる）.・技術書を5冊は読む.・筋トレビッグ3を600kg.
1
5
129
いやDALL・Eやばくね.Raven's Progressive Matricesも解けてるじゃん.仕組みが違うにしても知能というものの定義をちゃんとしなくてはいけない時代になってしまったのではないだろうか (超丸暗記だとしてもそこからIQテストを解ける暗記の仕方をしているのだから、それはある意味知能).
3
29
129
急にヤベェの出てきたな.
DeepNet: Scaling Transformers to 1,000 Layers.abs: successfully scale Transformers up to 1,000 layers (i.e., 2,500 attention and feed-forward network sublayers) without difficulty, which is one order of magnitude deeper than previous deep Transformers
0
5
126
これ見落としてたけどまじでおもろい.SAOのアリシゼーション計画のプロトタイプみたいな感じ.user studyではエージェントを擬人化して考えてしまうなどのこともあるらしくてかなり興味深い.ただ，まだルールベース部分であったりタスクがトイだったりはするので，今後が楽しみ.
0
18
117
DMM英会話始めて3ヶ月くらいなわけですが、一日25分でも劇的に喋れるようになったので、毎日少しでも喋るのはクソ大事ですね（英語のミーティングでちゃんと意思疎通が取れるようになった）.
0
3
118
クソデカGAN.解像度4,398,046,511,104 x 4,398,046,511,104のとんでもなくありえないほどクソデカイ画像を吐き出す3000万層のResNetGeneratorと4000万層のSNResNetDiscriminatorで構成されたクソデカイGANがあった.
0
15
113
AI SCHOLARにて僕が執筆した記事が公開されました！.StyleGANを用いて服を自由自在に組み合わせての高解像度人物画像生成が可能になる論文の紹介です.服のいろや雰囲気まで操作可能であり、未来を感じさせる論文です.
1
19
110
Spectral Normalizatronが何でうまくいくかと、それを分析した上でのsimple but effectiveな改良をした論文.記事読むだけでもおもろい.
0
8
94
Chainer/CuPy Advent Calendar 24日目の記事を公開しました！.僕の分散学習の知識を全て残しました。.ありがとうChainer。そして、さよならChainer。.
1
30
95
覚醒しました！！！！！！！！.大西PMの元で「因果推論による系統的汎化エージェント」という研究テーマでやっていきます！.論文をお楽しみにしてください！🙏👍💪🍺🍶🍷🍾.
2
11
94
新作の共著論文です！.産業界において、所望の物質の特性から物質推定をする解の候補が多い逆問題があります。.既存の手法は個別最適化を行うため推論速度は低速でした。.我々は解の『分布』を提供し、候補を絞り込むことで、高速に解を得ることを可能にしました。.
3
12
88
Chainerでtensorflow dataset（tfds）を使えるようにするという記事を12/11に投稿予定でしたが、取りやめました.PyTorchで使えるようにする記事に書き直してAppendixでChainerを書くことにしました.分散学習については予定通り投稿予定です.僕の分散学習の知識を全部残します.
0
20
81
VAEの潜在空間の分布をMetric Learningを使っていい感じにしてやったらいいのでは！？？は？俺は天才、ICLR2020 Acceptedって大騒ぎしたけど、調べたらそりゃありますよねってなって真顔になってる.
1
11
82
MIRU2021でロングオーラルで選定されました.タイトル「Lightning-fast Virtual Try-on without Paired Data and Direct Supervision」. 従来の教師あり仮想試着は人と服のペアが必要がでしたが、その制約を取り払った上で、教師ありの手法とコンパラの弱教師あり仮想試着であるLiVIRTを提案しました.
5
4
79
Chainerのアドベントカレンダー2本投稿予定だったけど、これもう書く意味あるのかな、、、.なんか全てが悲しみでいっぱい.推しが死んだオタクみたいになってる.
0
14
78
特にML論文とかに用いるかっこいい図 (見栄えのいい) の作り方をまとめたサイトとか知ってる方いませんか.(理学系の���料は見つけたけど、詳細には書いてない、、、).
1
10
77
MIRU2021で産総研での研究が学生優秀賞と、朝ランした人の中で最も高位の賞ということで木村賞を受賞しました！！！！！.みなさん発表を見ていただき、ありがとうございました！💪🙇♂️👍🍾🍾🍾🍾🍾🍾🍾🍾🍾🍾🍾🍾."Lightning-fast Virtual Try-on without Paired Data and Direct Supervision"
5
4
77
さらにMIRUインタラクティブ発表賞もいただきました！！！！.みなさん来ていただいてありがとうございました！！！.💪💪💪💪💪👍🍾🎉🍚🥹.
4
1
73
僕の研究になります！.内容は6月にあったICLR2020読み会で発表したSPACEについてとなります。読み会の最後にSPACEは強力だが不安定だよね、とお話しした点について理論的・実験的に解明し、訓練を安定化させました.是非お��しください！🥳.
IS3-2-33（8/5 13:00~14:00)の発表、画像の前景と背景を教師無しで分離する手法において、ニューラルネットの重みの初期値によっては訓練が失敗する問題を理論的・実験的に解き明かし、VAEのKLダイバージェンスの周期性アニーリングによって訓練を安定化させました #MIRU2020
2
16
70
Vision Transformer入門をご恵贈賜りました！.ViTに至るまでの背景から最新のViT関連と、わかりそうでわからなかったTransformerの細かい話、さらにはV&Lへの適用についての発展と、大ボリュームです！.Transformer流行ってるけど、どうにか最速で理解したい！という人に最適だと思います💪
0
18
65
Efficient Content-Based Sparse Attention with Routing Transformers (TACL2020).Attentionを計算する際、入力をクラスタリングすることで最大内積探索 (MIPS) 問題となり、計算コストも少なく、強いAttention信号を獲得可能なRouting Transformerを提案した
1
8
62
@sei_shinagawa これ国際会議とかではスポンサー企業からの支援金を査読者にいくらか渡すというのはどうか、というのを話したことがあるのですが、これはこれで金銭が発生すると査読の公平性の観点に問題があるとのことでした.どういうインセンティブが一番いい方向なんですかね？.
1
16
59
Sony Neural Network Libraries様とcvpaper.challengeのコラボ企画のICLR2023論文解説企画における，私の動画が公開されました！.この動画では，一度の学習でDisentanglement度合いを学習後に調整できるMR-VAE (Multi Rate VAE) の論文を解説しています.是非ご覧ください！.
3
9
58
Disentangling images with Lie group transformations and sparse coding (arXiv preprint).局所的な形状 (離散パターン) を獲得できるリー群学習とアフィン変換 (連続変換) を獲得できるスパースコーディングを組み合わせて両者をDisentanglementをできるLSCを提案した
1
9
57
そういえば、cvpaper.challenge主催のCVPR2020網羅的サーベイにおける、僕のサーベイに関する取材記事が掲載されました！.他にも研究スタイルとかも掲載されているのでもしよかったらみてみてください〜〜.
2
13
57
共著の論文がarXivに出ました.従来のDeepfake検知はセキュリティ的に後手に回るので不利であり、Deepfake破壊は汎化性能に問題ありでした.これらの問題を根本から変えるために、Deepfakeされても問題ない画像（scapegoat）を生成するという新しい問題設定を提案しました.
1
8
58
執筆した記事が掲載されました！.メトリックラーニングを取り入れて外挿を行うのは尤もらしいですが、なかなか考え出されなかった面白いアイデアです.
学習していないクラスの画像を生成可能！？.GANにメトリックラーニングの枠組みを導入するという新しい発想で"学習していないクラスの画像を生成可能"、"生成画像品質の向上"、"生成データはデータ水増しとして有効"の3つの貢献を生み出した"""OpenGAN"""登場！.
1
10
57
こちら諸事情で公開が遅くなってしまいましたが、アドベントカレンダーの記事が公開されました！.僕なりにがむしゃらにやってきた5年間の軌跡で、何か僕と同じように困っている人の助けになればと思います.ぜひご覧ください！.
タイトル：艱苦学生はトップ研究者の夢を見るか？ .筆者：綱島秀樹. cvpaper.challenge アドベントカレンダー〜研究成果を世に送り出すまでのストーリー〜 の９日目、綱島さんの記事です。コミュニティへの参加〜ICPR'20〜国際ジャーナル採択〜MIRU学生優秀賞までの話をして頂きました。.
0
10
56
NDDR-CNN.マルチタスク学習(MTL)において今まではタスクごとに有効な特徴マップ(層)が違っていたため、MTLの良さを引き出せていなかった。本論文ではMTLの一般化に成功し、従来手法全てのスコアを更新。どのMTLにおいても同じネットワーク構造でいい模様.かなり激やば論文では.
0
7
55
GMMの最適化をVAEでAmortized Inferenceすることで行った論文であるGaussian Mixture VAEの再解釈、再定式化によりヒューリスティクスをなくした記事.普通にこれだけで一本論文になりそうなレベルのクオリティ.
0
6
54
Which Is Plagiarism: Fashion Image Retrieval Based on Regional Representation for Design Protection (CVPR 2020 Oral).盗作検索という新しいタスクを提案し、データセットも構築した論文. Fashion Retrieval、Landmark Detectionにおいて全てでSOTA
1
21
52
我々の生成モデルに関する研究グループ "Generations" のサーベイが公開されました！.なるべくコンパクトにまとめて要点を抑えた資料になってますので、是非ご覧ください！.
「画像生成・生成モデル メタサーベイ」を公開しました！画像変換（Image-to-Image Translation）、NeRF（Neural Radiance Fields）、物体指向表現学習（Object-oriented Representation Learning）、 ドメイン適応（Domain Adaptation）について調査しました。.
0
14
53
最近複数人の教授と話すことがあったけど、説明性って求めること自体が人間が解釈可能な低次元な要素に圧縮してるだけであって、ディープの発展や高次の特徴を扱うという点においては愚策だよねという話をした.人間がよくわからんことでもコントローラビリティさえあればいいのではという話とかを.
0
12
51
Towards Faster and Stabilized GAN Training for High-fidelity Few-shot Image Synthesis (ICLR2021 under review).few-shot画像生成にて、channelごとのdisentanglementを促すSLEとDにdecoderをくっつけて再構成をする2つのモジュールで大幅に生成品質を改善した
1
10
52
Single-Stage Semantic Segmentation from Image Labels.single stageの弱教師ありセグメンテーションのCVPR2020の論文なんですけど、supplementの表が年代順になっててありえん親切でわかりやすくてわろた (本文には全部の手法の精度もまとめてある)
1
14
49
amortized inferenceを調べてたら、なんかめっちゃいい資料落ちてた.丁寧に生成モデルへの導入が行われてる.わかりやすい.
1
5
48
本日スキルアップAIさんで僕が監修させていただいたGAN講座のライブがあります.ついに形になったので非常に感慨深く、関係者の方には感謝の言葉もありません.GANのビジネスシーンでの活用や2021年までの重要技術の説明を行っているので、興味がある人は是非！ (次回以降).
0
6
48
中国で初めておじさんたちの飲み会に連れて行ってもらったが、激しすぎて大学生のサークルの比じゃない.52度の酒を飲み会終わりまでずっと一気してるし、みんなピンピンしてる.初めて俺より酒強い人に出会ったし、初めてもう飲めませんって言った.修羅の国すぎる
1
4
46
ICPR2020に採択されたものはGANのパラメータ数、計算量を敵対的蒸留によって圧縮する論文です.Hideki Tsunashima, Hirokatsu Kataoka, Junji Yamato, Qiu Chen, Shigeo Morishima. "Adversarial Knowledge Distillation for a Compact Generator".
0
8
45
ICLR2020読み会(で.SPACE: Unsupervised Object-Oriented Scene Representation via Spatial Attention and Decomposition.という教師なし物体検知と教師なしセグメンテーションの合わせ技によるObject-aware Representation Learningの論文紹介を行いますので是非～～.
1
7
46
去年の雪辱を果たすべく今年の目標を立てていきます. ・Kaggle Masterになる.・トップカンファ1本以上（1stで）通して、2本以上投げる.・AtCoderで水色coderになる.・論文誌に2本以上通す（1stで）.・論文を1000本以上は読む.・技術書を5冊は読む.・ベンチプレス150kg.・スクワット220kg. やっていき💪.
0
0
45
WebDB Forum 2019にて最優秀学生ポスター賞を受賞しました！.タイトル：GANsにおける小規模生成器実現のための敵対的蒸留.
3
13
44
U-Net Transformer: Self and Cross Attention for Medical Image Segmentation (arXiv).U-Netにself-attentionとskip connectionとボトムアップの特徴で取るcross-attentionを追加し、globalな特徴とfine (local) な特徴を捉えられるようにしたU-Transformerを提案した
1
4
44
普通にマシンでのスマホいじり禁止って書いてくれればいいのに、下に書いてあるみたいなサムいこと言われるとキモってなって一気に守りたくなくなる気持ちになってくる
0
4
42
僕が執筆した記事になります！.これからの時代を作りゆく可能性のある表現学習についての論文について紹介しました.是非どうぞ！.
VAEによる教師なし物体検出とVAEによる背景分離により、画像の前景背景を完全教師なしで分離可能な「SPACE」が登場！下流タスクにも有効たりえる可能性がある表現学習の最新手法であり、今後の道標となる論文か！？.
0
4
43
私はAI-SCHOLARの学生代表としてCVPR2020勉強会に登壇します！.是非お越しください！.
CVPR2020勉強会を開催します！.時間の関係もあるため、技術的なところも含みますが、ビジネスパーソンやトップカンファレンスは理解できないって考えてる人にも理解できる形で発表します。技術部分はまた別途やれればと思います。.#CVPR2020 #今こそ学ぼう #JDLA #AISCHOLAR.
1
5
42