かゆ
@ok_migihito
Followers
301
Following
13K
Statuses
4K
ICLR2025に採択された論文をarxivにて公開しました〜 RoPEはウェーブレット変換の一種であることを明らかにし，ウェーブレット変換に基づいた位置符号化を提案しています．「ウェーブレット位置符号化」というタイトルでANLP2025@長崎でもポスター発表予定です〜！
2
31
213
RT @chemical_tree: 東大社D1本目の研究です。言語獲得の臨界期における人間の"作業記憶"の発達を模倣し、学習初期に記憶を制限しながら徐々に緩和する機構を言語モデルに導入することで学習効率の向上（i.e., 臨界期現象の再現）を確認しました。
0
31
0
0
2
0
RT @DaikiSh_nlp: #NLP2025 は共著1件で参加します！CLIPにモーダル間で潜在空間上のギャップがある課題に対して、学習フリーに解消を試みたという内容です。 学会期間は大体スポンサーブースにいると思うので、よかったら寄ってください！ https://t.c…
0
1
0
RT @stjohn2007: #NLP2025 は主著1件、共著3件で参加します！ 主著は複数の評価項目をボトムアップに考慮することで、VLM-as-a-Judgeが複数のマルチモーダル（V&L）タスクを精度良く評価できる話です。メタ評価データセット構築もしてます。 （…
0
8
0
RT @caesar_wanya: 形態素・構文・意味解析が1セッションにまとまってしまうというのは隔世の感がある。この時代に、という話ですが #NLP2025 で「B10-4 JDD-PAS:規範的な日本語日常対話コーパスへの意味役割ラベル・述語項構造付与」を発表をします。国…
0
9
0
今までの位置符号化は正弦波を使ったものが多かったんですが，ウェーブレット関数を使って位置表現してるのが面白ポイントです．ALiBiの分析もやってます！ 共著者の @th_freiburg @kyoun に感謝です…！
0
0
5
