如何在Windows命令行中使用unicode字符?

问题描述 投票:292回答:19

我们在Team Foundation Server(TFS)中有一个项目,其中包含非英语字符(š)。当我试图编写一些与构建相关的东西时,我们偶然发现了一个问题 - 我们无法将š字母传递给命令行工具。命令提示符或其他什么不是搞砸了,并且tf.exe实用程序找不到指定的项目。

我尝试过.bat文件的不同格式(ANSI,带有和不带BOM的UTF-8)以及用JavaScript编写脚本(这本身就是Unicode) - 但没有运气。如何执行程序并将其传递给Unicode命令行?

unicode command-line input windows-console
19个回答
44
投票

我的背景:我在控制台中使用Unicode输入/输出多年(并且每天都做很多。此外,我正在为这项任务开发支持工具)。只要您了解以下事实/限制,就会遇到很少的问题:

  • CMD和“控制台”是不相关的因素。 CMD.exe只是一个准备“在控制台内”工作的程序(“控制台应用程序”)。
  • AFAIK,CMD完全支持Unicode;您可以在任何代码页处于活动状态时输入/输出所有Unicode字符。
  • Windows的控制台对Unicode有很多支持 - 但它并不完美(只是“足够好”;见下文)。
  • chcp 65001非常危险。除非程序是专门设计用于解决Windows API中的缺陷(或使用具有这些变通方法的C运行时库),否则它将无法可靠地工作。 Win8 fixes ½ of these problems with cp65001, but the rest is still applicable to Win10
  • 我在cp1252工作。正如我已经说过:要在控制台中输入/输出Unicode,不需要设置代码页。

The details

  • 要读取/写入控制台的Unicode,应用程序(或其C运行时库)应该足够聪明,不能使用File-I/O API,而应使用Console-I/O API。 (例如,请参阅how Python does it。)
  • 同样,要读取Unicode命令行参数,应用程序(或其C运行时库)应足够智能以使用相应的API。
  • 控制台字体渲染仅支持BMP中的Unicode字符(换句话说:在U+10000下面)。仅支持简单的文本呈现(因此欧洲 - 以及一些东亚语言 - 应该可以正常工作 - 只要使用预先组合的表单)。 [这里有东亚的minor fine print和U + 0000,U + 0001,U + 30FB的字符。]

Practical considerations

  • Window上的默认值不是很有用。为了获得最佳体验,应该调整3个配置: 输出:全面的控制台字体。为了获得最佳效果,我推荐my builds。 (安装说明存在于此页面中,并在本页的其他答案中列出。) 输入:有能力的键盘布局。为了获得最佳效果,我推荐my layouts。 输入:allow HEX input of Unicode
  • 还有一个问题是“粘贴”到控制台应用程序中(非常技术性): HEX输入在KeyUpAlt上提供了一个角色;所有其他提供角色的方式都发生在KeyDown上;如此多的应用程序还没有准备好在KeyUp上看到一个角色。 (仅适用于使用Console-I/O API的应用程序。) 结论:许多应用程序不会对HEX输入事件做出反应。 此外,“粘贴”字符所发生的情况取决于当前的键盘布局:如果可以在不使用前缀键的情况下键入字符(但使用任意复杂的修饰符组合,如Ctrl-Alt-AltGr-Kana-Shift-Gray*),则会在模拟按键上传递。这是任何应用程序所期望的 - 所以粘贴任何只包含这些字符的东西都可以。 但是,通过模拟HEX输入来传递“其他”字符。 结论:除非您的键盘布局支持输入大量没有前缀键的字符,否则当您通过Console的UI Paste时,一些错误的应用程序可能会跳过字符:Alt-Space E P。 (这就是我推荐使用键盘布局的原因!)

还应该记住,Windows的“替代”,“更有能力”的控制台根本不是游戏机。它们不支持Console-I/O API,因此依赖这些API工作的程序将无法运行。 (但是,只使用“文件I / O API到控制台文件句柄”的程序可以正常工作。)

这种非控制台的一个例子是MicroSoft的Powershell的一部分。我不用这个;试验,按下并释放WinKey,然后键入powershell


(另一方面,有一些程序,如ConEmuANSICON试图做更多:他们“试图”拦截Console-I/O API,使“真正的控制台应用程序”也工作。这绝对适用于玩具示例程序;在现实生活中,这可能会或可能不会解决您的特定问题。实验。)

Summary

  • 设置字体,键盘布局(以及可选的,允许HEX输入)。
  • 仅使用通过Console-I/O API的程序,并接受Unicode命令行参数。例如,任何cygwin编译的程序都应该没问题。正如我已经说过的那样,CMD也很好。

UPD:最初,对于cp65001中的一个错误,我混淆了内核和CRTL层(UPD²:和Windows用户模式API!)。另外:Win8修复了这个bug的一半;我澄清了关于“更好的控制台”应用程序的部分,并添加了对Python如何做的参考。


3
投票

对于类似的问题,(我的问题是在命令提示符下显示来自MySQL的UTF-8字符),

我这样解决了:

  1. 我将命令提示符的字体更改为Lucida Console。 (这一步必须与你的情况无关。它只能与你在屏幕上看到的一样,而不是与真正的角色有关)。
  2. 我将代码页更改为Windows-1253。您可以在命令提示符下通过“chcp 1253”执行此操作。它适用于我希望看到UTF-8的情况。

3
投票

我发现这种方法在新版Windows 10中很有用:

启用此功能:“测试版:使用Unicode UTF-8进行全球语言支持”

控制面板 - >区域设置 - >管理选项卡 - >更改系统区域设置...

Region Settings


2
投票

这个问题很烦人。我的文件名和文件内容通常都有中文字符。请注意我使用的是Windows 10,这是我的解决方案:

如果在Windows 10上安装了Ubuntu bash,则显示文件名,例如dirls

  1. 设置区域以支持非utf 8字符。
  2. 之后,控制台的字体将更改为该区域设置的字体,并且还会更改控制台的编码。

完成上述步骤后,使用命令行工具显示UTF-8文件的文件内容

  1. 通过chcp 65001将页面更改为utf-8
  2. 更改为支持utf-8的字体,例如Lucida Console
  3. 使用type命令查看文件内容,如果在Windows 10上安装了Ubuntu bash,则使用cat
  4. 请注意,在将控制台的编码设置为utf-8后,我无法使用中文输入法在cmd中键入中文字符。

最懒的解决方案:只需使用控制台模拟器,如http://cmder.net/


1
投票

如果您在DOS窗口中键入路径/文件名时计算机显示正确的路径/文件名,则快速决定.bat文件:

  1. copy con temp.txt [按Enter键]
  2. 输入路径/文件名[按Enter键]
  3. 按Ctrl-Z [按Enter]

这样就可以创建一个.txt文件 - temp.txt。在记事本中打开它,复制文本(不要担心它看起来不可读)并将其粘贴到.bat文件中。在DOS窗口中执行以这种方式创建的.bat为mе(Cyrillic,Bulgarian)工作。


1
投票

更清洁的事情:只需安装可用的免费Microsoft日语语言包即可。 (其他东方语言包也可以使用,但我测试了日语。)

这将为您提供具有较大字形集的字体,使其成为默认行为,更改各种Windows工具,如cmd,写字板等。


1
投票

将代码页更改为1252对我有用。对我来说问题是符号双doller§在Windows Server 2008上由DOS转换为另一个符号。

我在我的BCP声明中使用过CHCP 1252和一个上限^§。


1
投票

我在这里看到了几个答案,但它们似乎没有解决这个问题 - 用户希望从命令行获取Unicode输入。

Windows使用UTF-16进行两个字节字符串的编码,因此您需要从程序中的操作系统中获取这些字符串。有两种方法可以做到这一点 -

1)Microsoft有一个扩展,允许main接受一个宽字符数组:int wmain(int argc,wchar_t * argv []); https://msdn.microsoft.com/en-us/library/6wd819wh.aspx

2)调用windows api获取命令行的unicode版本wchar_t win_argv =(wchar_t)CommandLineToArgvW(GetCommandLineW(),&nargs); https://docs.microsoft.com/en-us/windows/desktop/api/shellapi/nf-shellapi-commandlinetoargvw

阅读:http://utf8everywhere.org获取详细信息,特别是如果您支持其他操作系统。


1
投票

从2019年6月开始,使用Windows 10,您无需更改代码页。

参见“Introducing Windows Terminal”(来自Kayla Cinnamon)和Microsoft/Terminal。 通过使用Consolas字体,将提供部分Unicode支持。

Microsoft/Terminal issue 387所述:

目前有Unicode的87,887个表意文字。你也需要所有这些吗? 我们需要一个边界,超出该边界的字符应该由字体回退/字体链接/其他来处理。

Consolas应涵盖的内容:

  • 用作CLI中现代OSS程序使用的符号的字符。
  • 这些角色应遵循Consolas的设计和指标,并与现有的Consolas角色正确对齐。

Consolas不应该涵盖的内容:

  • 除拉丁语,希腊语和西里尔语之外的脚本的字符和标点符号,特别是字符需要复杂的形状(如阿拉伯语)。
  • 应使用字体回退处理这些字符。

0
投票

我通过短文件(8点3)名称在批处理文件中引用它们来解决类似的删除Unicode命名文件的问题。

可以通过dir /x查看短名称。显然,这仅适用于已知的Unicode文件名。


-4
投票

对于utf-8:chcp 65001

回到默认值:chcp 437


369
投票

尝试:

chcp 65001

这会将代码页更改为UTF-8。此外,您需要使用Lucida控制台字体。


36
投票

我有同样的问题(我来自捷克共和国)。我有一个Windows的英文版,我必须使用共享驱动器上的文件。文件的路径包括特定于捷克语的字符。

适合我的解决方案是:

在批处理文件中,更改charset页面

我的批处理文件:

chcp 1250
copy "O:\VEŘEJNÉ\ŽŽŽŽŽŽ\Ž.xls" c:\temp

批处理文件必须保存在CP 1250中。

请注意,控制台不会正确显示字符,但它会理解它们......


25
投票

检查非Unicode程序的语言。如果您在Windows控制台中遇到俄语问题,那么您应该在这里设置俄语:


13
投票

更改Windows控制台的默认代码页非常困难。当您在网上搜索时,您会发现不同的提案,但有些提案可能会完全破坏您的Windows,即您的PC无法再启动。

最安全的解决方案是这一个:转到您的注册表项HKEY_CURRENT_USER\Software\Microsoft\Command Processor并添加字符串值Autorun = chcp 65001

或者,您可以将这个小型Batch脚本用于最常见的代码页。

@ECHO off

SET ROOT_KEY="HKEY_CURRENT_USER"


FOR /f "skip=2 tokens=3" %%i in ('reg query HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Nls\CodePage /v OEMCP') do set OEMCP=%%i

ECHO System default values:

ECHO.
ECHO ...............................................
ECHO Select Codepage 
ECHO ...............................................
ECHO.
ECHO 1 - CP1252
ECHO 2 - UTF-8
ECHO 3 - CP850
ECHO 4 - ISO-8859-1
ECHO 5 - ISO-8859-15
ECHO 6 - US-ASCII
ECHO.
ECHO 9 - Reset to System Default (CP%OEMCP%)
ECHO 0 - EXIT
ECHO.


SET /P  CP="Select a Codepage: "

if %CP%==1 (
    echo Set default Codepage to CP1252
    reg add "%ROOT_KEY%\Software\Microsoft\Command Processor" /v Autorun /t REG_SZ /d "@chcp 1252>nul" /f
) else if %CP%==2 (
    echo Set default Codepage to UTF-8
    reg add "%ROOT_KEY%\Software\Microsoft\Command Processor" /v Autorun /t REG_SZ /d "@chcp 65001>nul" /f
) else if %CP%==3 (
    echo Set default Codepage to CP850
    reg add "%ROOT_KEY%\Software\Microsoft\Command Processor" /v Autorun /t REG_SZ /d "@chcp 850>nul" /f
) else if %CP%==4 (
    echo Set default Codepage to ISO-8859-1
    add "%ROOT_KEY%\Software\Microsoft\Command Processor" /v Autorun /t REG_SZ /d "@chcp 28591>nul" /f
) else if %CP%==5 (
    echo Set default Codepage to ISO-8859-15
    add "%ROOT_KEY%\Software\Microsoft\Command Processor" /v Autorun /t REG_SZ /d "@chcp 28605>nul" /f
) else if %CP%==6 (
    echo Set default Codepage to ASCII
    add "%ROOT_KEY%\Software\Microsoft\Command Processor" /v Autorun /t REG_SZ /d "@chcp 20127>nul" /f
) else if %CP%==9 (
    echo Reset Codepage to System Default
    reg delete "%ROOT_KEY%\Software\Microsoft\Command Processor" /v AutoRun /f
) else if %CP%==0 (
    echo Bye
) else (
    echo Invalid choice
    pause
)

使用@chcp 65001>nul而不是chcp 65001会抑制每次启动新命令行窗口时输出的“活动代码页:65001”。

您可以从Code Page Identifiers获得的所有可用号码的完整列表

请注意,这些设置仅适用于当前用户。如果您想为所有用户设置它,请用SET ROOT_KEY="HKEY_CURRENT_USER"替换SET ROOT_KEY="HKEY_LOCAL_MACHINE"


12
投票

实际上,诀窍是命令提示符实际上理解这些非英文字符,只是无法正确显示它们。

当我在命令提示符中输入包含一些非英语字符的路径时,它显示为“?? ?????? ?????”。当你提交你的命令(cd“??? ?????? ?????”在我的情况下),一切都按预期工作。


10
投票

在Windows 10 x64计算机上,我通过以下方式使命令提示符显示非英语字符:

打开提升的命令提示符(以管理员身份运行CMD.EXE)。通过以下方式在注册表中查询可用的TrueType字体到控制台:

    REG query "HKLM\SOFTWARE\Microsoft\Windows NT\CurrentVersion\Console\TrueTypeFont"

您将看到如下输出:

    0    REG_SZ    Lucida Console
    00    REG_SZ    Consolas
    936    REG_SZ    *新宋体
    932    REG_SZ    *MS ゴシック

现在我们需要添加一个支持Courier New所需字符的TrueType字体。我们通过在字符串名称中添加零来完成此操作,因此在这种情况下,下一个将是“000”:

    REG ADD "HKLM\SOFTWARE\Microsoft\Windows NT\CurrentVersion\Console\TrueTypeFont" /v 000 /t REG_SZ /d "Courier New"

现在我们实现UTF-8支持:

    REG ADD HKCU\Console /v CodePage /t REG_DWORD /d 65001 /f

将默认字体设置为“Courier New”:

    REG ADD HKCU\Console /v FaceName /t REG_SZ /d "Courier New" /f

将字体大小设置为20:

    REG ADD HKCU\Console /v FontSize /t REG_DWORD /d 20 /f

如果您愿意,可以快速编辑:

    REG ADD HKCU\Console /v QuickEdit /t REG_DWORD /d 1 /f

5
投票

由于我没有看到Python 2.7的完整答案,我将概述两个重要步骤和一个非常有用的可选步骤。

  1. 您需要支持Unicode的字体。 Windows附带Lucida Console,可以通过右键单击命令提示符的标题栏并单击Defaults选项来选择。这也可以访问颜色。请注意,您也可以通过选择Properties来更改以某些方式调用的命令窗口的设置(例如,在此处打开,Visual Studio)。
  2. 您需要将代码页设置为cp65001,这似乎是Microsoft尝试为命令提示符提供UTF-7和UTF-8支持。通过在命令提示符下运行chcp 65001来执行此操作。一旦设置,它将一直保持这种状态,直到窗口关闭。每次启动cmd.exe时都需要重做此操作。

有关更持久的解决方案,请参阅超级用户上的this answer。简而言之,使用REG_SZ中的regedit创建一个HKEY_LOCAL_MACHINE\Software\Microsoft\Command Processor(String)条目,并将其命名为AutoRun。将其值更改为chcp 65001。如果您不想查看命令的输出消息,请改用@chcp 65001>nul

有些程序无法与此编码进行交互,MinGW是一个值得注意的程序,在使用无意义的错误消息进行编译时失败。尽管如此,这种方法非常有效,并且不会导致大多数程序出现错误。


4
投票

一个非常简单的选择是安装一个Windows bash shell,如MinGW,并使用:

Enter image description here

由于您需要使用Unix命令行功能,因此有一点学习曲线,但您会喜欢它的强大功能,您可以将控制台字符集设置为UTF-8。

Enter image description here

当然,你也可以获得所有常见的* nix好东西,如grep,find,less等。

© www.soinside.com 2019 - 2024. All rights reserved.