Ты пытаешься подключить не-COM DLL (т.е. библиотеку не с классами, а с процедурами и функциями). Такие еще называют Native DLL.
Что делать? Разживись мануалом и подключай необходимые процедуры и функции через Declare. (точно так же, как подключаешь ф-ции из Win32 API). Если и с Declare не получится, значит это DLL с конвенцией вызова cdecl (а нужна stdcall). Тряси автора на предмет stdcall-версии. Если есть исходники - можно лично покопаться и перекомпилировать (при условии минимального знания языка, на котором написана библиотека, и наличия компилятора).
Могу пояснить любой пункт из написанного выше в меру собственных сил и возможностей