Smile Engineering Blog

ジェイエスピーからTipsや技術特集、プロジェクト物語を発信します

PyTorch

PyTorchモデルをバイナリストリーム化してモデル解剖もしてみよう

PyTorchのモデルをバイナリストリームで保存できる!? 最近PyTorchのドキュメントを眺めていたら、PyTorchのモデルがio.BytesIOで保存できることを知りました。 (以前からこんな記載あったかな? あまり記憶にない……) # Save to io.BytesIO buffer buffer…

PyTorchで学ぶ『平均』と『分散』と『BatchNormalization』

ところでBatchNormalizationってなんだっけ? 深層学習でモデル構築をしていると、よくお見かけするのがBatchNormalizationと呼ばれるもの。 ・・・はい。よく見かけますよね? ・・・・・・・・・。 ところで、結局それってなんでしたっけ? 「平均を0、分…

PyTorchで京大BERT日本語Pretrainedモデルを使ってみよう

自然言語処理で注目を集めるBERT Googleによって提案されたBERTは、自然言語処理のあらゆる分野へ流用が可能で、ますます注目を集めています。自然言語処理を学んでる方でしたら、一度は触ってみたいですよね! 今日は京大から公開されている、 PyTorch & BE…

PyTorch超入門!

PyTorchを始めてみよう! 普段、TensorFlowで深層学習のソースを書いてた私……のはずなのですが、いろいろあってPyTorchを勉強する羽目(?)になってしまいました。が、 そもそもPyTorchなんてこれまでまったく触ったことないよ〜!! これではあかん!!と…