Align16, возможно ли?

[Mikle]

Имею 4D вектора и матрицы. Перемножаю в DLL на C++, для большей производительности желательно, чтобы вектора и матрицы были выровнены в памяти по 16-ти байтной границе, Можно ли это сделать?

[Nord777]

Перемножаю в DLL на C++

Мне кажется ты тем самым уменьшил быстродействие.
Тестировал? Если вычисления будут в managed коде и в той же сборке?

[Mikle]

Тестировал, если перемножать не по одному, у C++ хороший выигрыш даже без SSE.

[Nord777]

А можно увидеть не сильно перегруженный лишним кодом примерчик(вместе с dll) ?

[Mikle]

А можно увидеть не сильно перегруженный лишним кодом примерчик(вместе с dll)

Конечно. Вот перемножение массива матриц (1000 шт.) на матрицу, результат - в другой массив:
http://tuapse-mikle.narod.ru/Matrix.zip
Исходник DLL тут же.
У .net немного выигрывает даже vb6, по крайней мера на атлонах.
CPP тут без выравнивания, и, соответственно, без SSE. Добавление SSE должно ускорить ещё в 1.5-2 раза, а на более сложных вычислениях - ещё больше.

[MIT]

Я что-то не понял, почему сравнивается

Код: Выделить всё

      For i As Integer = 1 To 100000
        For n As Integer = 0 To 997
          MatrixMultiply(M2(n), M1(n), M)
        Next n
      Next i

и

Код: Выделить всё

      For i As Integer = 1 To 100000
        CPPMatrixMultiply(M2(0), M1(0), M)
      Next i

Ведь во втором случае выполняется в тысячу раз меньше операций.

[Nord777]

Ведь во втором случае выполняется в тысячу раз меньше операций.

Попался
В dll цикл от 1 до 1000

[MIT]

Я не смотрел код библиотеки. Тогда ясно.

[Mikle]

MIT
997... а должно быть 999, очепятка
Это я ещё дал vb.net немного форы.
Вопрос про Align в силе.

[Nord777]

Mikle
Немного поправил код.

VBNETMatrix.rar

(75.9 Кб) Скачиваний: 77

AMD Athlon 64 X2
Проект - принудительно х86
VB.Net - 4060 ms
C++ dll - 4580 ms

Включение SSE прибавки не дало.

Насчет выравнивания не понял. Тебе надо, чтобы начало каждой структуры в массиве было выравнено по 16-б. границе? Или каждое поле в структуре? И чем это может помочь?

[Mikle]

Немного поправил код.

Скачал, дома посмотрю.

Включение SSE прибавки не дало.

Я, вообще-то, собирался на ассемблере с применением SSE-инструкций писать.

Тебе надо, чтобы начало каждой структуры в массиве было выравнено по 16-б. границе? Или каждое поле в структуре?

Каждой структуры, а так как размер структуры кратен 16-ти, то достаточно первого элемента массива.

И чем это может помочь?

Загрузка и сохранение одной инструкцией сразу четырёх элементов.

[Nord777]

Я, вообще-то, собирался на ассемблере с применением SSE-инструкций писать.

А-а-а, понял
Ну для начала можно попробовать выделить неуправляемую память при помощи AllocHGlobal и скопировать данные по нужному адресу.
Если будет ощутимая прибавка от выравнивания, то можно будет и заморочться. Но пока ничего на ум не приходит(я про "чистые" методы).
Мозг после праздников брыкается

[Mikle]

Nord777
У тебя две ошибки:
1.

Код: Выделить всё

         M1(n) = Mcls
         M2(n) = Mcls

Тут мы получаем два массива со ссылками на одни и те же объекты.
2.
У тебя умножается inM() на outM(), то есть, с учётом п.1, на себя же, результат идёт в M,
После исправления код уже немного отстаёт от C++, но всё равно быстрее структур.

[FireFenix]

И разве в .НЕТ не лучше использовать DllImport?

[Mikle]

Чем лучше? Выглядит круче, или есть профит?

[Viper]

Чем лучше? Выглядит круче, или есть профит?

Есть некоторый выигрыш в проиводительности. Где-то здесь это уже разбиралось в чем там разница.

[Nord777]

Mikle, как успехи? Тестил уже с выравниванием и SSE ?

[Mikle]

Nord777
Так оно же не работает, простой тест:

Код: Выделить всё

Imports System.Runtime.InteropServices

Public Class Form1
  <StructLayout(LayoutKind.Explicit, Pack:=16, Size:=64)> _
  Structure Matrix
    <FieldOffset(0)> Dim m11, m12, m13, m14 As Single
    <FieldOffset(16)> Dim m21, m22, m23, m24 As Single
    <FieldOffset(32)> Dim m31, m32, m33, m34 As Single
    <FieldOffset(48)> Dim m41, m42, m43, m44 As Single
  End Structure

  Private Declare Function VarPtr Lib "msvbvm60" (ByRef v As Single) As Integer

  Private Sub Form1_MouseDown(ByVal sender As Object, ByVal e As System.Windows.Forms.MouseEventArgs) Handles Me.MouseDown
    Dim M1 As Matrix
    Dim M2(3) As Matrix

    If e.Button = Windows.Forms.MouseButtons.Left Then
      Text = VarPtr(M1.m11) Mod 16
    Else
      Text = VarPtr(M2(0).m11) Mod 16
    End If
  End Sub
End Class


Матрица M1 всегда выровнена, M2() нет. Что даёт это "Pack:=16" ?

[MIT]

Может лучше не VarPtr, а какое-нибудь UnsafeAddrOfPinnedArrayElement?

Что даёт это "Pack:=16" ?

Controls the alignment of data fields of a class or structure in memory.

____
Наверное стоит перейти на использование неуправляемой памяти - и проблем с адресами не будет, и скорость возрасти может.

[Mikle]

Такая VarPtr:

Код: Выделить всё

  Private Function VarPtr(ByVal o As Object) As Integer
    Dim gc As System.Runtime.InteropServices.GCHandle = _
        System.Runtime.InteropServices.GCHandle.Alloc(o, _
        System.Runtime.InteropServices.GCHandleType.Pinned)
    Dim ptr As Integer = gc.AddrOfPinnedObject.ToInt32()
    Return ptr
  End Function

даёт то же самое. Да и мне нужно именно передавать Byref в неуправляемую процедуру, так что тут VarPtr из msvbvm.dll как раз подходит.

[FireFenix]

Код: Выделить всё

  <StructLayout(LayoutKind.Explicit, Pack:=16, Size:=64)> _
  Structure Matrix
    <FieldOffset(0)> Dim m11, m12, m13, m14 As Single
    <FieldOffset(16)> Dim m21, m22, m23, m24 As Single
    <FieldOffset(32)> Dim m31, m32, m33, m34 As Single
    <FieldOffset(48)> Dim m41, m42, m43, m44 As Single
  End Structure

Могу ошибаться... но по моему нада было бы указать для каждой переменной своё смещение...

Такая VarPtr:

Код: Выделить всё

  Private Function VarPtr(ByVal o As Object) As Integer
    Dim gc As System.Runtime.InteropServices.GCHandle = _
        System.Runtime.InteropServices.GCHandle.Alloc(o, _
        System.Runtime.InteropServices.GCHandleType.Pinned)
    Dim ptr As Integer = gc.AddrOfPinnedObject.ToInt32()
    Return ptr
  End Function

даёт то же самое. Да и мне нужно именно передавать Byref в неуправляемую процедуру, так что тут VarPtr из msvbvm.dll как раз подходит.

Когда я прикручивал нативный ДХ, то достаточно было просто указать ByRef без выделения неуправляемой памяти...

[Mikle]

Потому, что DX не требует Align16, а Align4 есть и так.

[Nord777]

Так оно же не работает, простой тест:

Всё правильно, Pack:=16 и не будет работать.

Есть одна задумка, как извратиться, но

Ну для начала можно попробовать выделить неуправляемую память при помощи AllocHGlobal и скопировать данные по нужному адресу.

т.е. попробуй скопировать массив структур по нужному(выравненному) адресу и посмотри величину прироста скорости.
Если прирост будет существенен - расскажу задумку и наверно поковыряюсь.

[ANDLL]

А зачем использовать структуры? Используй просто массив single'ов в котором "первым" назначай выравненный по нужной границе.

[Mikle]

ANDLL
Я до этой фишки уже додумался, только делаю это на VB6.
А в NET придётся фиксировать массив в памяти, иначе не факт, что он останется на этом месте. Кроме того бывает удобно работать именно с матрицами или векторами, в VB6, опять же, это решается без проблем.
Сейчас я занят другой работой, но к этой обязательно вернусь.