eigonobenkyou さん プロフィール

  •  
eigonobenkyouさん: 英語の勉強サイト
ハンドル名eigonobenkyou さん
ブログタイトル英語の勉強サイト
ブログURLhttp://eigo.rumisunheart.com/
サイト紹介文アメリカの最新情報からピックアップした、知らなかった単語・熟語などを調べながら解説していくサイト
自由文英語はかなり奥が深いので、自分が知らなかった英語を調べつつ、アメリカの情報と共に、ブログに綴っていくつもりです。
参加カテゴリー
更新頻度(1年)情報提供373回 / 365日(平均7.2回/週) - 参加 2016/02/02 18:13

eigonobenkyou さんのブログ記事

  • CS231n/assignment2/Batch Normalization(バッチ正規化)
  • 今回はStanford Universityが提供するCS231nシリーズのAssignment2第二弾バッチ正規化に挑戦する。そのうちコピペではなく自分の答案を貼り付けられるようになるだろうことを心から願わざるにはいられない今日この頃。Batch Normalization¶多層ネットワークの学習を楽にする一手法は、SGD+momentumやRMSProp、Adam等のより高度な最適化法を使うことだ。もう一つの手法は、ネットワークが学習しやすいようにネットワークのアーキテ [続きを読む]
  • CS231n/assignment2/Batch Normalization(バッチ正規化)
  • 今回はStanford Universityが提供するCS231nシリーズのAssignment2第二弾バッチ正規化に挑戦する。そのうちコピペではなく自分の答案を貼り付けられるようになるだろうことを心から願わざるにはいられない今日この頃。Batch Normalization¶多層ネットワークの学習を楽にする一手法は、SGD+momentumやRMSProp、Adam等のより高度な最適化法を使うことだ。もう一つの手法は、ネットワークが学習しやすいようにネットワークのアーキテ [続きを読む]
  • CS231n/assignment2/Fully-Connected Neural Nets
  • Stanford/CS231n/assignment2/Fully-connected Neural Networkをやる。というか正確にはただコピペするだけのように見えるが、実際には、youtubeの講義も何十回も聞いてスライドとコードも熟読し、自分なりに考え抜いた末の不本意なコピペではある。Fully-Connected Neural Nets¶過去の宿題でCIFAR-10に実装したfully-connected two-layer neural network全結合二層ニューラルネットワークは、シンプルだが損失と勾配がシングル・ [続きを読む]
  • Jupyter NotebookがLD_LIBRARY_PATHを認識しない
  • このサイトからダウンロードしたコードを実行したところエラーが出た。このエラーを解消するのに結構手間取ったので、また同じようなエラーが出ても詰まらないように記録しておくことにした。jupyter notebookとLD_LIBRARY_PATH¶カフェ2を新たにビルドして下記のコードを実行した所エラーが吐き出された。# %load demo.pyimport torchimport torchvision.utils as vutilsimport numpy as npimport torchvision.models as modelsfr [続きを読む]
  • Stanford/CS231n:Image features exercise
  • Stanford/CS231n/assignment1の最後、Image features exerciseをやる。Image features exercise¶入力画像のピクセルをlinear classifier(線形分類器)で訓練することで画像分類タスクでそこそこのパフォーマンスは得られることは分かったので、今回のエクササイズでは、線形分類器を未加工ピクセルではなく、そのピクセルから計算された画像特徴で訓練することで分類パフォーマンスを向上させることができることを示す。import ran [続きを読む]
  • caffe2 tutorial: CIFAR-10: Part 2
  • caffe2のtutorialの続き。今回はcnn(Convolutional Neural Network) modelをいよいよ定義するところから始まる。その前にまずチュートリアルに必要なモジュール等をロードする。from __future__ import absolute_importfrom __future__ import divisionfrom __future__ import print_functionfrom __future__ import unicode_literalsfrom matplotlib import pyplot as pltimport numpy as npimport osimport lmdbimport shutilfro [続きを読む]
  • Couldn’t import dot_parser(エラー?)の解決方法
  • caffe2をソースからビルドしてチュートリアルを実践したら、以下のようなエラーにも似た文言が吐き出された。エラーでもウォーニングでもないから別に気にする必要もないんだろうけど、気になったので調べてみた。Couldn’t import dot_parserの解決法¶from __future__ import absolute_importfrom __future__ import divisionfrom __future__ import print_functionfrom __future__ import unicode_literalsfrom matplotlib impo [続きを読む]
  • Stanford CS231n:Implementing a Neural Network
  • Stanford/CS231n/assignment1/neural networkでは、フィードされたデータを分類するための完全にコネクトされたレイヤーを持ったニューラルネットワークを構築して、それをCIFAR-10データセットを使ってテストしている。Implementing a Neural Network¶先ずは、moduleのimportと各種環境変数の設定。import numpy as npimport matplotlib.pyplot as pltfrom cs231n.classifiers.neural_net import TwoLayerNetfrom __future__ imp [続きを読む]
  • TensorRTを使ってcaffeモデルを最適化するの巻
  • Pythonにおいて、caffeモデルを最適化するためにTensorRTを使用しているこのチュートリアルをやってみた。TensorRTを使ってcaffeモデルを最適化¶TensorRT 4.0は、実行・保存可能なカフェモデルを読み込んで最適化するためのPython APIをサポートしている。先ず、必要なモジュールをインポートする。import tensorrt as trtimport pycuda.driver as cudaimport pycuda.autoinitimport numpy as npfrom random import randintfrom P [続きを読む]
  • PyTorch/TensorRT/PyCUDA MNISTチュートリアル
  • TensorRT, PyCUDA, PyTorchを使ったこのチュートリアルをやってみた。手動でTensorRT Engineを構築する¶Python APIが、NumPyコンパチレイヤーウェイトを使用していて、UFFコンバーターにサポートされていない可能性がある、Pythonベースのフレームワークへの道筋を提供している。今回のチュートリアルではPyTorchが使われている。先ずは必要なモジュールをインポートする。import tensorrt as trtimport pycuda.driver as cudaimp [続きを読む]
  • TensorFlow/TensorRT/PyCUDA MNISTチュートリアル
  • TensorRTをtensorflowとpycudaと一緒に使っているこのチュートリアルをやってみた。TensorRT EngineをTensorFlowで構築する¶UFF ToolkitはTensorFlow modelsをUFFへの変換を可能にする。UFF parserは、TensorRT enginesをこれらのUFF modelsから構築できる。今回のtutorialでは、手書き数字を分類するのにLeNet5 modelを訓練し、その後推論用にTensorRT Engineをビルドする。TensorRTをインポートする前にTensorFlowを最初にイン [続きを読む]
  • Scipy/SK-learn/C++/CUDA/Python K-Means benchmark
  • python,scikit-learn, scipy, C++, CUDA Cのk-meansベンチマーク用コードがあったのでやってみた。benchmark codeはこのサイトから拝借させてもらった。K-Means benchmark(Scipy編)¶先ず以下のサイトからベンチ用コードをダウンロードする。%download https://raw.githubusercontent.com/goldsborough/k-means/master/python/k_means.pyDownloaded 'k_means.py'.次にテストに使用するデータをダウンロードしてくる。%download htt [続きを読む]
  • jupyter notebookでbenchmarkプログラミング
  • jupyter notebookで手軽にbenchmarkテストができるように、ベンチマークテスト用のプログラムを組む。というか、コードをコピペする。CPU/GPUベンチマーク用プログラム¶先ずは必要なモジュールをインポートする。from pycuda import autoinit, gpuarrayfrom pycuda import curandomimport numpy as npimport time%pylab inline次にテスト用のデータを用意して関数を書くdprec = np.float32 # o np.float64random = curandom.XORWO [続きを読む]
  • C / CUDA C / PyCUDAの基礎Programming Tutorial
  • c, cuda, pycudaを使って、$ i+i^i $をプログラミングする。i+iのi乗の計算(C version)¶cで$ i+i^i $をプログ
    ラミングすると以下のようなコードになる。%%writefile cpuAdd.c#include int main(void){int N = 10;float a[N],b[N],
    c[N];for (int i = 0; i Overwriting cpuAdd.c!g++ cpuAdd.c -o cpua!./cpua0.000000 2.000000 6.000000 12.000000 20.000000 30.000000 42
    .000000 56.000000 72.000000 90.000000 i+iのi乗の計算(Cud [続きを読む]
  • pycudaによる画像処理高速化(CPUと処理速度を比較)
  • pycudaを使った画像加工を検証してみる。このサイトから拝借した下記のコードは画像をCPUとGPUを別個に使ってグレー化し、画像処理にかかった時間を表示してくれる。import PILfrom PIL import Imageimport time import pycuda.driver as cudaimport pycuda.autoinitfrom pycuda.compiler import SourceModuleimport numpy def blackWhite(inPath , outPath , mode = "luminosity",log = 0): if log == 1 : print ("--- [続きを読む]
  • astropyで読み込んだfit画像をpycudaで加工する
  • astropyのpyfitsを使ってfit(s)画像を読み込んで、読み込んだ画像をpycudaを使って加工して少しでも処理を高速化するというプログラムを試してみた。fitデータをダウンロードして加工する¶先ずはfitのチュートリアル用サンプル画像データをダウンロード%download http://data.astropy.org/tutorials/FITS-images/HorseHead.fitsDownloaded 'HorseHead.fits'.次にダウンロードしたfits画像データをastropyのpyfitsで読み込んで加工 [続きを読む]
  • astropyを使って目的の天体画像を見る
  • astropyというモジュールを使って天体画像を見てみる。on-sky locationを記述する¶ # Python standard-libraryfrom urllib.parse import urlencodefrom urllib.request import urlretrieve# Third-party dependenciesfrom astropy import units as ufrom astropy.coordinates import SkyCoordfrom astropy.table import Tableimport numpy as npfrom IPython.display import Image# Set up matplotlib and use a nicer set of plo [続きを読む]
  • PyCUDAプログラミング:GPUとCPUのドット積比較
  • GPUとCPUが2つのベクトルのドット積を求めるのに費やす時間は、アレイサイズによってかなり大きく変わってくる。アレイサイズが小さいとCPUが圧倒的に速く、アレイサイズが大きくなるに連れてGPUがCPUを速度で追い抜く。と言っても、両者の間にそんなに顕著な差はない。限界の16384×16384でもその差は2.3倍でしかない。CPUとGPUのドット積速度比較¶このサイトから以下のベンチマークコードを拝借させてもらった。#!/usr/bin/env [続きを読む]
  • scikit-cudaとpycudaでdot product(ドット積)
  • pycudaで構築したdot productコードとscikit-cudaに実装されているモジュールで2つのアレイのdot product(ドット積)をテストしてみる。dot productテスト(skcuda編)¶skcuda.linalg.dotがnumpy.dotと整合するかどうかを確認する。>>> import pycuda.autoinit>>> import pycuda.gpuarray as gpuarray>>> import numpy as np>>> import skcuda.linalg as linalg>>> import skcuda.misc as misc>>> linalg.init()>>> a = np.asarray(n [続きを読む]
  • PyCUDA Tutorial:基礎中の基礎編 その2
  • PyCUDAプログラミング学習にはCUDA Cプログラミング学習が必須のようだ。GPUプログラミングは敷居が高そうだが、面白そうではある。昨日のコードのおさらい¶昨日のコードは今見てもHello world!(超初歩)の割にかなり複雑なように思える。from pycuda.tools import make_default_contextc = make_default_context()d = c.get_device()d.name()'GeForce GTX 1060 with Max-Q Design'import pycuda.driver as cudaimport pycuda.auto [続きを読む]
  • cudaを使ったparallel programming(並列計算)
  • cuda programmingには、pycudaの他にnumba.cuda.jitも利用できる。numbaの方がチュートリアルやサンプルコードがネット上に多ゴロゴロしているので、むしろnumbaの方が学習しやすいというメリットがある。ただ、スピード的にはpycudaの方が圧倒的に速いので、そこのところはデメリットと言えるが、cudaプログラミングの学習には参考資料が多いので都合が良い。GPUのCUDAコア数¶import numba.cudaimport numpy as npimport mathmy_ [続きを読む]
  • PyCUDA Tutorial:基礎中の基礎編 その1
  • pycudaが使えるのは良く分かったが、pycudaを実際にどう使っていいのか全く分からないので、とりあえず、pycudaの簡単なチュートリアルを実践してみた。必要なmoduleのimport¶pycudaを使えるようにするには、以下のような事前準備が必要。import pycuda.driver as cudaimport pycuda.autoinitfrom pycuda.compiler import SourceModulepycuda.autoinitは使わなければならないわけではなく、初期化やコンテクスト作成やクリーンア [続きを読む]
  • PyCUDA vs PyOpenCL ガチ対決!
  • どう考えてもGPUよりCPUの方が実行速度が速いわけがないので、汚名挽回の意味も含めて、pycudaとpyopenclのガチ対決をしてみた。マンデルブロ集合描画(PyOpenCL編)¶import numpy as npfrom matplotlib import pyplot as pltfrom matplotlib import colors%matplotlib inlinedef mandelbrot_image(xmin,xmax,ymin,ymax,width=3,height=3,maxiter=80,cmap='hot'): dpi = 72 img_width = dpi * width img_height = dpi * he [続きを読む]