PyTorch で GPU 並列をちょっと詳しく

要約 PyTorch でマルチ GPU してみたけど,色々ハマったので記録に残しておく.データ並列もモデル並列(?)もやった. メインターゲット PyTorch ユーザ GPU 並列したい人 要約 メインターゲット 前提知識 並列化したコード モデル 主なコンポーネント 補…

flask プロジェクトの PyCharm 実行でハマった

PyCharm で flask プロジェクトを作って,PyCharm 上で実行したら,スクリプトで指定している設定が反映されなくて困った. 経緯 flask プロジェクトを作成 スクリプトを編集 実行 & 問題発生 真相 対処 真面目な対処法 雑な対処法 あとがき . 経緯 flask プ…

RandomCrop とかを入力画像と正解画像で統一する方法

経緯 PyTorch で画像系の学習をするときに, RandomFlip や RandomCrop をよく使う.最近研究関連で,オブジェクト位置,セグメンテーション,画像を順に生成していく既存モデルを構築しており,それらのデータでランダムな部分を統一する必要があった.なか…

ディープラーニング分散学習ハッカソン参加報告

経緯 研究室のお金でディープラーニング分散学習ハッカソンに参加してきました. www.cc.u-tokyo.ac.jp 東京大学情報基盤センターが主催する、マルチGPUを使った学習のハンズオン。申し込みは締め切られているが、資料が公開されており分散学習の仕組みと課…

Latex で画像位置がずれる問題へ対処した話

経緯 lab メンが某会議への論文投稿でハマっていたのをみんなで解決した.ググってもなかなかドンピシャの解決にたどり着けなかったので記事に残す. 経緯 想定する読者 発生した問題 対処 あとがき 想定する読者 論文の投稿を dvi + eps 形式で行うように指…

Amazon Mechanical Turk (MTurk) を使ってみたメモ

経緯 研究の一環で Amazon Mechanical Turk (MTurk) を使う機会があった.日本語のドキュメントや記事が少なく,ところどころ苦戦したので,使用感などをメモっておく. 私が参考にした大変よくまとまった資料を以下に紹介する.MTurk を使うための資料とし…

レトリバインターン参加報告

経緯 サマーインターンで2ヶ月間,株式会社レトリバ様(以下敬称を略させていただきます)にお邪魔し,製品開発の職業体験をさせていただいたのでその記録です. retrieva.jp 想定する読者 来年以降インターン時期になるNLPer レトリバに興味がある人 レトリ…

feature_importances_ について調べてみた

経緯 授業でランダムフォレストを使ってみる課題が出たが,いまいち feature_importances_ の算出方法がわからずモニョったので調べてみた. 想定する読者 sklearn を使う人 決定木がなんとなくわかる人 ランダムフォレストが主に分類に用いられるアルゴリズ…

HMMとCRFとの違いについて調べてみた

経緯 系列ラベリングの代表的な手法として HMM と CRF はそれぞれ聞いたことあるし概要は本を読んでわかったつもりになっているけど,どうもそれらの違いがわからないなぁ...と思ってちょっと調べてみた.意外と日本語の記事が見つからず,英語の記事でいい…