Kinectを使って、画面上の赤い輪をくぐるサンプル
Kinectの画像をビットマップデータに書き出し、深度データを取得する処理
RGBカメラの1ラインあたりのバイト数を表すcolorStride変数にcolorFrame.BytesPerPixel *colorFrame.Width と指定します。RGBカメラの1ピクセルあたりのバイト数を取得して、RGBカメラのフレームの幅に乗算します。RGBカメラの1ラインあたりのバイト数が取得できます。32ビットを1バイト(8ビット)で除算すると4バイトそれにcolorFrame.Widthの640を乗算します。4×640=2560となります。直接この値を指定しても問題はありません。
変数screenImageStrideには、colorFrame.BytesPerPixel * depthFrame.Widthの値を格納しておきます。これも640×4=2560となり、直接この値を指定しても問題ありません。
Byte型の配列変数bytePlayer2変数を、距離カメラのフレームの高さと、距離カメラの1ラインあたりのストリームバイト数を保持しているscreenImageStrideで乗算した値で初期化します。つまり、depthFrame.Heightの480に、screenImageStrideに設定した、colorFrame.BytesPerPixel * depthFrame.Width (4(バイト)×640)の値である2560を乗算した(480×2560)1228800-1の値で初期化されたバイト配列型のbytePlayer2オブジェクトが作成されます。
同様にbytePlayer1とbyteRoomバイト型配列変数も同じ値で初期化しておきます。
CopyPixelDataToメソッドで、距離カメラのピクセルごとのデータを取得します。同様にRGBカメラのピクセルごとのデータも取得します。これで、実際のデータを取り出します。CopyPixelDataToメソッドは、ピクセルデータの長さを使用して、事前に割り当てられた配列へ、ピクセルごとの深度データやRGBデータをコピーします。
繰り返し変数depthYで、0から距離カメラのフレームの高さ分反復処理を行います。反復処理内では以下の処理を行います。
depthPixelIndex変数に1ずつ加算される変数depthXの値と繰り返し変数depthYに距離カメラのフレーム幅(640)を乗算した値を加算して、格納しておきます。
init_kinectプロシージャ内で確保された、myDepthPixelDataのShort型の配列で、depthPixelIndex変数に対応する値と、距離カメラのフレームデータから、PlayerIndexBitmaskでビットマスクに含まれているプレイヤーIDとで論理積演算を行います。距離カメラのピクセルデータを反復処理し、プレイヤーのインデックス値を抽出します。
ビット演算 AND は、2 つのビットを比較し、両方のビットの値が 1 の場合にのみ、値 1 を結果に代入します。そうでない場合は、結果のビットに 0 をセットします。AND 演算子は、その他すべてのビット演算子と同様、オペランドとして数値のみを取ります。And演算子に付いては下記のURLを参照してください。
→ And 演算子(msdn)
RGBカメラのX-Y座標データを表すColorImagePointクラスのcolorPoint変数に、MapDepthToColorImagePointで、距離カメラの座標に対応する、RGBカメラの座標を取得します。深度情報を実画像に変換してくれます。書式は下記の通りです。
KinectSensor. MapDepthToColorImagePoint(距離カメラの フォーマット,距離カメラのX 座標,XとY座標の距離データ(Short型),RGBカメラのフォーマット)
変数colorPixelIndexに、RGBカメラのX座標とRGBカメラのピクセルあたりのバイト数を取得して乗算し、RGBカメラのY座標とRGBカメラの1ラインあたりのバイト数を表すcolorStrideを乗算して、これらを加算した値を格納しておきます。
プレイヤーが存在し、プレイヤーの深度データが必要な場合は、
depth = myDepthPixelData(depthPixelIndex) >> DepthImageFrame.PlayerIndexBitmaskWidth
と記述して、myDepthPixelData(depthPixelIndex) をDepthImageFrame.PlayerIndexBitmaskWidth 分右へシフトします。
PlayerIndexBitmaskWidthフィールドは、プレイヤーインデックスビットマスク内の、幅またはビットの数を表します。これはプレイヤーインデックスを格納する深度データの下位ビットの数を表します。つまり、3ビット(DepthImageFrame.PlayerIndexBitmaskWidth分)右へシフトするとプレイヤーの深度のデータだけを取得できます。上記は、ビットシフト演算を使用しています。ビットシフトはその名の通り、ビット列をそのまま左右に移動させる演算です。
expression1 >> expression2 expression1 と expression2 には、それぞれ式を指定します。ビットごとの右シフト演算子 (>>)やビットごとの左シフト演算子 (>>)については、下記のURLを参照してください。 変数depthXを1ずつ加算し、ImageIndex変数にRGBカメラのピクセルあたりのバイト数を加算していきます。 ImageIndex = ImageIndex + colorFrame.BytesPerPixel BytesPerPixelは1ピクセルあたりのバイト数を取得しますので、1ピクセルは8ビットでフルカラーの場合は32ビットになるため32÷8=4バイトとなり、colorFrame.BytesPerPixelは4と同じになります。 この値が、Byte型の配列変数(bytePlayer1、bytePlayer2、byteRoom)のインデックスに対応します。下位3ビットのプレイヤーIDを指し示す値です。 深度に応じて書き込み先を変更していきます。ImageIndexに対応する、Byte型の配列変数である距離データを画像化していきます。プレイヤーが存在し、深度のデータが2400(2m40cm)より大きい場合は、プレイヤーを奥側へ描画します。深度のデータが2400(2m40cm)より小さかった場合は、手前に描画します。 プレイヤー以外は背景イメージに描画します。プレイヤー以外を背景イメージに描画する処理を書いていないと、背景となる部屋が描画されませんので、注意してください。 上記3つのコードはAlphaを指定しているコードです。PixelFormats.Bgra32と指定していましたので、32ビット中、残りの8ビットをAlphaに使用して背景を透明化しています。 WriteableBitmap型の変数Human_Image1_BitmapにWritePixelsメソッドで、byteからビットマップへ書き出します。ビットマップの指定した領域内に更新したデータを格納します。書式は下記の通りです。このHuman_Image1_Bitmapプロパティの値を、ImageコントロールのSourceプロパティにバインドします。 WritePixels(更新するWriteableBitmapの四角形,ビットマップの更新に使用するピクセル配列,pixel内の更新領域のストライド,入力バッファのオフセット) 同様に、Human_Image2_Bitmap、Room_Bitmapに関してもWritePixelsメソッドを適用します。 Kinectセンサーが動作している場合は、動作を停止し、リソースを解放します。 今回のサンプルのソース元は、菅崎 篤史様の下記のURLの「すがろぐ」にあるサンプルを参考にアレンジさせていただきました。ありがとうございます。
expression1
>> は expression1 を expression2 だけ右にシフトします
は
ImageIndex = ImageIndex + 4
としても同じです。
depthTextBlock内に深度のデータを表示します。 Private Sub RenderScreen(colorFrame As ColorImageFrame, depthFrame As DepthImageFrame)
If Kinect Is Nothing OrElse depthFrame Is Nothing OrElse colorFrame Is Nothing Then
Return
End If
Dim depth As Integer = 0
Dim depthPixelIndex As Integer
Dim playerIndex As Integer
Dim colorPixelIndex As Integer
Dim colorPoint As ColorImagePoint
Dim colorStride As Integer = colorFrame.BytesPerPixel * colorFrame.Width
Dim screenImageStride As Integer = colorFrame.BytesPerPixel * depthFrame.Width
Dim ImageIndex As Integer = 0
Dim bytePlayer2 As Byte() = New Byte(depthFrame.Height * screenImageStride - 1) {}
Dim bytePlayer1 As Byte() = New Byte(depthFrame.Height * screenImageStride - 1) {}
Dim byteRoom As Byte() = New Byte(depthFrame.Height * screenImageStride - 1) {}
depthFrame.CopyPixelDataTo(myDepthPixelData)
colorFrame.CopyPixelDataTo(myColorPixelData)
For depthY As Integer = 0 To depthFrame.Height - 1
Dim depthX As Integer = 0
While depthX < depthFrame.Width
depthPixelIndex = depthX + (depthY * depthFrame.Width)
playerIndex = myDepthPixelData(depthPixelIndex) And DepthImageFrame.PlayerIndexBitmask
colorPoint = Kinect.MapDepthToColorImagePoint(depthFrame.Format, depthX, depthY, myDepthPixelData(depthPixelIndex), colorFrame.Format)
colorPixelIndex = (colorPoint.X * colorFrame.BytesPerPixel) + (colorPoint.Y * colorStride)
If playerIndex <> 0 Then
depth = myDepthPixelData(depthPixelIndex) >> DepthImageFrame.PlayerIndexBitmaskWidth
If depth > myDepth Then
bytePlayer1(ImageIndex) = myColorPixelData(colorPixelIndex)
bytePlayer1(ImageIndex + 1) = myColorPixelData(colorPixelIndex + 1)
bytePlayer1(ImageIndex + 2) = myColorPixelData(colorPixelIndex + 2)
bytePlayer1(ImageIndex + 3) = &HFF
Else
bytePlayer2(ImageIndex) = myColorPixelData(colorPixelIndex)
bytePlayer2(ImageIndex + 1) = myColorPixelData(colorPixelIndex + 1)
bytePlayer2(ImageIndex + 2) = myColorPixelData(colorPixelIndex + 2)
bytePlayer2(ImageIndex + 3) = &HFF
End If
Else
byteRoom(ImageIndex) = myColorPixelData(colorPixelIndex)
byteRoom(ImageIndex + 1) = myColorPixelData(colorPixelIndex + 1)
byteRoom(ImageIndex + 2) = myColorPixelData(colorPixelIndex + 2)
byteRoom(ImageIndex + 3) = &HFF
End If
depthX = depthX + 1
ImageIndex = ImageIndex + colorFrame.BytesPerPixel
End While
Next
Human_Image1_Bitmap.WritePixels(myScreenImageRect, bytePlayer1, screenImageStride, 0)
Human_Image2_Bitmap.WritePixels(myScreenImageRect, bytePlayer2, screenImageStride, 0)
Room_Bitmap.WritePixels(myScreenImageRect, byteRoom, screenImageStride, 0)
depthTextBlock.Text = String.Format("深度={0}", depth)
End Sub
ウィンドウが閉じられた時の処理
Private Sub MainWindow_Closing(sender As Object, e As System.ComponentModel.CancelEventArgs) Handles Me.Closing
If Kinect Is Nothing = False Then
If Kinect.IsRunning = True Then
Kinect.Stop()
Kinect.Dispose()
End If
End If
End Sub
End Class
参考文献
→ すがろぐ - プロろぐ
Kinectで赤い輪をくぐるサンプル
連載バックナンバー
Think ITメルマガ会員登録受付中
全文検索エンジンによるおすすめ記事
- Kinectを使って、自分の手のひらに小さな分身を出現させてみる
- 人体の連続した動作を音声でキャプチャするKinectのサンプルプログラム
- Kinectで結成したマイ・ダンスチームを、サンプルを見ながら実際の背景に合成してみよう
- Kinectの音声認識を使って、プレイヤーを分離、結合させるデモを試してみる
- これであなたもダンスグループの一員!?Kinectで自分を分身させるプログラムを作る
- プレイヤーの身体パーツを判別するKinectサンプル
- Kinectで距離カメラの値を取得して、指定した距離で人物が背景に溶け込むサンプル
- 人物を切り抜いて画面に表示するKinectサンプル
- 人物特定に使える!?実際の映像で顔を認識するKinectプログラム
- Kinectを使って、顔の動きを認識して画面に表示する