C# と VB.NET の質問掲示板

次回からは「図表モード」で投稿してください。
(ソースコードがインデントされます)

C言語は明に初期化しないと、値は不定です。
ですので
>char *filename;
は NULL が入っているとは限りません。
(NULLかも知れないし、変な値が入っているかもしれない)
よって、明に初期化する必要があります。

char* filename = NULL;


というか、このコードは /* ファイル指定あり */ のパスを通ることはないような気がします。
もっともらしく書くのであれば、

extern "C" __declspec(dllexport)
int __stdcall WINAPI Dll_fileopen( const char* filename )
{
    FILE* fp;
    if ( filename == NULL )
    {
        fp = stdin;
    }
    else
    {
        fp = fopen( filename, "w" );
        if ( fp == NULL )
        {
            fprintf( stderr, "'%s'が読み込めません.＼n", filename );
            return -1;
        }
    }
    return 0;
}

てな感じでしょうが。
ただ、fpはローカル変数なので、別のDLLの関数からfpを参照することは出来ません。
(しかも、fpは開きっぱなしなのでどうなるか微妙です)

訂正)

>        fp = fopen( filename, "w" );
>        if ( fp == NULL )
>        {
>            fprintf( stderr, "'%s'が読み込めません.＼n", filename );
>            return -1;
>        }
if ( fopen_s( &fp, filename, "w" ) != 0 ) // キャストが必要かも？
{
    fprintf( stderr, "'%s'が読み込めません.＼n", filename );
    return -1;
}