ジョイジョイジョイ

ジョイジョイジョイジョイジョイ

HashedNets

HashedNets [1] を chainer で実装しました。 HashedNets の説明 ニューラルネットワークのパラメータ数は非常に多く、パラメータは冗長な表現になっていることが多いです。 そこで、自由なパラメータの数を減らして、正則化と軽量化を達成するための手法の…

本質的に曖昧な文脈自由言語

本質的に曖昧な文脈自由言語が存在するという事実は色んなところで何度も目にしてきたのですが、証明を見たことが無かったのでここで紹介します。 流れは大体 [1] と同じですが、補題の証明はオリジナルも混ざってます(本質的には同じだとは思います)(間…

Adam

Adam [1] を chainer で実装しました。 Adam の説明 少ない時間・空間計算量で高い性能を出すということで、深層学習の分野で最近よく使われている最適化手法です。 をパラメータに取る関数 の(期待値)最小化を考えます。 の に対する勾配を とします。 一…

大学のソフトウェア実験用のプログラム自動生成

大学のソフトウェア実験でMLのインタプリタを作っているのですが、テスト用にMLプログラムの自動生成プログラムを書きました。 generator.sh は一部 @basemusi 君に書いてもらってます。 github.com 型推論器のデバッグ用に作ったのでこの名前ですが、インタ…

Dilated Convolution

Dilated Convolution を chainer で実装しました。 Dilated Convolution の説明 Dilated Convolution は、フィルターとの積を取る相手の間隔をあける畳み込みのことです。 例えば、以下のような画像において、 12 を中心に 3 x 3 の普通の畳み込みフィルター…

Batch Normalization

Batch Normalization [1] を chainer で実装しました。 色々な場合に適用できて、学習速度が速くなったり汎化性能が上がったりするすごいテクです。 Batch Normalization の説明 上層(出力層に近い層)の入力は、当然下層(入力層に近い側)のパラメータに…

Generative Adversarial Nets

Generative Adversarial Nets [1] を chainer で実装しました。 いわゆる GAN です。 最近いろいろ派生系が出ています。画像の生成モデルはほとんどこれの派生な気がします。 画像を生成する Generator (以下 G)と、画像が本物か G が生成したものかを識別…

Chromatic Polynomial と Acyclic Orientation

SRM717 の Hard で出題されて気になったので書き留めておきます。 Chromatic Polynomial について まず、無向グラフの頂点から色への対応を彩色、隣接する頂点が同じ色にならないような彩色のことを正しい彩色ということにします。これはこの記事限定用語で…

計算機科学実験及演習3ハードウェア(CPU製作)記

先日、長いようで短かった実験がついに終わったので記録を残しておきます。 はじめに 京都大学情報学科の計算機科学コースでは計算機科学実験及演習(以下、実験)という必修科目が 2 回生前期 / 後期、 3 回生前期 / 後期の計 4 つあります。実験 1 はプロ…

最小全域有向木(m log n)

明日、KMC の組合せ最適化読書会でやる予定なのですが、少し調べた限りでは日本語の解説が見つからなかったので書いてみます。(注:組合せ最適化本体には O(nm) のアルゴリズムしか載っていません。) こういうアルゴリズムに慣れていない人向けに書いたつ…

2015ふりかえりと2016めも

昨日振り返りするの忘れていたので元日に振り返りと目標どっちも書こう 2015年の振り返りこんなことを買いていたのでその振り返り 大学に入るはい 赤くなるTC 1584 -> 1827 (+243)CF 1876 -> 2150 (+274)うーんダメ一瞬だけCF赤くなったけど色基準変更されて…

櫟井唯ちゃんの画像を無限に生成する話

いくら待てどゆゆ式二期の発表がないのでそろそろ僕の櫟井唯ちゃん資源が枯渇してしまいそうです そこで今話題のニューラルネットワークに唯ちゃんの画像を無限に生成してもらうことにしました とりあえずこちらがデモです(設定の読み込みにかなり時間がか…

JOI夏季セミナー2015チューター記

JOIの夏季セミナーにチューターとして参加してきました。 本が6冊なのになぜかチューターは5人だったので僕は『プログラミング言語の基礎概念』と『深層学習』の2冊を担当することになりました。 1日目 catupperと共にヌエックに到着 自己紹介する(チュ…

2015めも

大学に入る 赤くなる ゆゆ式二期が決まる

PCK2014本選参加記

1日目 起床成功 伊丹空港到着 飛行機でウキウキ 会津へ @DEGwer3456と@namonakiaccountに会う 優勝おめでとうございますと伝える 実際優勝した(完全にプロ) バスで大学へ 受付 開会式 競技 7完3WAだった(5位) バスでホテルへ @potetisenseiと初めて会う 神秘…

PCK2014予選参加記

はじめに 炒めスズランとして参加した チーム名は相方が考えた 由来を聞いたところ「鈴蘭って綺麗やん?」ということだそう 何で炒めたのかまでは聞き出せなかった 結局六完(1,2,3,4,6,7)だった 1~3匁 読む 書く 提出する AC 4匁 読む 書く 提出する 出 力 …

JOI夏季セミ2014参加記

一日目 @catupperとサブウェイでウェイ おいしい 折り線に到着 本は集合知を選ぶ 定員オーバー じゃんけん チョキをだす 周りは全員グー 絶望 情報理論と符号理論班になる 黄色い本こわい 読み進める セミナー終了 @kagamizさんに合う 寝る 二日目 起きる 読…

suprecon2014参加記

初日から@namonakiaccountと煽りあう 問題を見る 焼きなまししか思いつかない 実装する 割とすぐに終わった 麺屋こころでぴょんぴょんする おいしい つぶやきで煽りあいが激化する ビームサーチの方が良い気がしてくる 世界一ビームサーチが実装できない 結…