C 语言对 Unicode 友好吗? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
Feiox

C 语言对 Unicode 友好吗?

  •  
  •   Feiox Dec 21, 2015 3383 views
    This topic created in 3784 days ago, the information mentioned may be changed or developed.

    最近需要高性能处理一些文本数据,多语言(有些还是 GBK 编码。。。

    以前玩 C 的时候处理的不是二进制就是纯 ASCII ,所以不了解相关知识。
    我项问一下,使用 C 语言处理 Utf-8 字符编码方便吗?(原谅我是 C++ 一生黑 ~)

    # 另外,有没有用 Rust 对接 Python 的,会不会有些坑?(我只是好奇想尝试一下)

    10 replies    2015-12-22 00:10:56 +08:00
    lianz
        1
    lianz  
       Dec 21, 2015
    在 C 的世界里只有 bytes 数组,什么 UTF8 、 GBK 编码都是上层建筑,自己处理或者用第三方库处理。
    huodon
        2
    huodon  
       Dec 21, 2015
    用 icu4c ?
    ffffwh
        3
    ffffwh  
       Dec 21, 2015 via Android
    utf-8 、 gbk 这种变长的 char s[]直接放,但有非 ascii 的话 s[i]可不是第 i 个字符,第 i 个字符恐怕只能一个个解析。
    utf-16 这种定长(似乎并不是,详不明)双字节的又是另一回事, wchar_t []或者 char []一次跳两个。
    xufang
        4
    xufang  
       Dec 21, 2015   1
    jhaohai
        5
    jhaohai  
       Dec 21, 2015
    c 只认识 ansi
    xufang
        6
    xufang  
       Dec 21, 2015   1
    诸位大发宏论的之前,请先看下我的 #4 的连接,无意冒犯诸位哦,谢谢。
    northisland
        7
    northisland  
       Dec 21, 2015
    c 语言确实很高性能,
    但也“烫烫烫烫烫”, 2333

    楼主找到什么好库记得分享一下~
    longaiwp
        8
    longaiwp  
       Dec 21, 2015
    @xufang 你这个也是人家帮你实现了一下而已。。。算不得上友好吧
    YuJianrong
        9
    YuJianrong  
       Dec 21, 2015
    @ffffwh utf-16 并不是定长的,和 utf-8 一样变长,所以也一样不能确切认为 s[i]就是地 i 个字符,所幸大部分使用的字符都在 BMP ( Basic Multilingual Plane ,基本多语言平面),这一区域的字符 utf-16 是两字节的。 BMP 之外主要是一些很不常用的汉字和其他语言以及表情符号等。

    @xufang 这个基本没用,也就是 unicode 文本能写进源代码和几个简单的 API 而已。

    直接说结论的话, C 语言处理 Utf-8 字符编码一点都不方便,不过其实如果你是需要高性能的话,也只有 C 语言这一个解决方案了吧,毕竟没有接近汇编的控制能力怎么写高性能的处理程序……
    xufang
        10
    xufang  
       Dec 22, 2015
    @YuJianrong 呵呵,我是针对一些对 C 语言有成见的观点才发这个。
    About     Help     Advertise     Blog     API     FAQ     Solana     3125 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 49ms UTC 00:06 PVG 08:06 LAX 17:06 JFK 20:06
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86