[尝试返回具有与C ++相同的布局的结构,问题是当TCHAR rMsg[256]
包含在C ++结构中,而[MarshalAs(UnmanagedType.ByValTStr, SizeConst = 256)]
public char rMsg;
包含在C#结构中(两者都将在下面显示)时,我得到了错误信息'方法的类型与PInvoke不兼容'。
我还应该指出,C ++不是我的,并且我不能更改它,因为其他函数需要下面给出的结构的布局。
我知道问题是TCHAR,因为当我注释掉C ++和C#中的相关行时,我没有收到错误。
我正在调用我创建的.dll(还将在下面的代码中包括它)以返回一个结构,以便使我知道我的语法正确。
C ++:
extern "C" {
__declspec(dllexport) tVDACQ_CallBackRecVal ( _stdcall TestAcq2())
{
//Just adding random values so I know it works.
tVDACQ_CallBackRecVal AR;
AR.rFlags = 1;
AR.rFrameHeight = 10;
AR.rFrameWidth = 10;
return AR;
}
}
//Struct
typedef struct {
int rFlags,
rType,
rEvent,
rSocket;
TCHAR rMsg[256]; //Has to stay as TCHAR
int rFrameWidth,
rFrameHeight;
short* rFrameBuffer;
union {
int rCaptureRows;
int rCaptureFrames;
};
int rCapturePercent;
void* rUserCallBackProc,
* rUserParam;
int rAborted;
void* rPacketData;
int rFGControl;
} tVDACQ_CallBackRecVal;
C#:
//Simply calling the .dll
[DllImport("C:\\Users\\jch\\source\\repos\\FlatPanelSensor\\x64\\Debug\\VADAV_AcqS.dll", EntryPoint = "TestAcq2", CallingConvention = CallingConvention.Cdecl)]
public unsafe static extern tVDACQ_CallBackRec TestAcq2();
[StructLayout(LayoutKind.Sequential)]
public struct tVDACQ_CallBackRec
{
public int rFlags;
public int rType;
public int rEvent;
public int rSocket;
[MarshalAs(UnmanagedType.ByValTStr, SizeConst = 256)]
public string rMsg; //I believe this is the issue
public int rFrameWidth;
public int rFrameHeight;
public IntPtr rFrameBuffer;
public int rCaptureRows;
public int rCaptureFrames;
public int rCapturePercent;
public IntPtr rUserCallBackProc;
public IntPtr rUserParam;
public int rAborted;
public IntPtr rPacketData;
public int rFGControl;
}
//Then I just call the function
tVDACQ_CallBackRec testStruct= TestAcq2();
我希望结构具有定义的所有组件,但我却得到标题中所述的错误。
同样,如果我不包括TCHAR(c ++结构)和字符串(c#结构),那么我不会收到错误,所以我知道这是潜在的问题,我也不知道如何解决该问题。
编辑:有关解决方案,请参阅@David Heffernan的第一条评论
解决此问题的最简单方法是更改原型,以便ref将结构作为参数传递给函数:
void _stdcall TestAcq2(tVDACQ_CallBackRecVal *retval)