tbox是一个用 c 语言实现的跨平台开发库, 自从上个版本发布至今已经一年多时间,由于最近精力都花在了xmake上,这个库只能在闲暇时间陆陆续续,零零散散地维护和改进,一年下来也改进了不少,也加了一些新功能。
此版本主要改进 stream/stdio 读写,字符集编码转换等操作,并重构整个原子操作实现,新增了 c11 风格 atomic api 来更细粒度控制。对于协程这块也做了一些优化和改进。
有兴趣的小伙伴们可以试试,tbox 的重点并不是做一个大而全的开发库,主要还是用于抽象不同平台相关 api 操作,提供一个基础平台库,在这基础上,还对一些常用组件做了些封装,提供了一些常用模块。
新特性
- #70: 添加
tb_stream_init_from_sock_ref()
接口去直接打开一个 socket 作为 stream 去读取数据。
- 添加 stdfile 接口去读写 stdin, stdout 和 stderr。
- #81: 添加对进程和线程的 cpu 亲缘性设置和获取
- 添加 filelock 文件锁跨平台 api 接口
- 添加匿名管道,命名管道支持
改进
- 优化 queue_buffer 模块
- 改进 stream 接口实现
- 改进字符集编码转换,以及增加对 ANSI 编码的支持
- 改进原子操作,并增加 c11 风格原子接口
- 改进 spinlock 实现
- 新增进程输出重定向到管道
- 针对协程栈使用虚拟内存
- 改进基于 openssl/mbedtls 的 https 访问
模块
流库
针对 http、file、socket、data 等流数据,实现统一接口进行读写,并且支持: 阻塞、非阻塞、异步 三种读写模式。
支持中间增加多层 filter 流进行流过滤,实现边读取,内部边进行解压、编码转换、加密等操作,极大的减少了内存使用。
主要提供以下模块:
stream
:通用非阻塞流,用于一般的单独 io 处理,同时支持协程以实现异步传输。
transfer
:流传输器,维护两路流的传输。
static_stream
:针对静态数据 buffer 优化的静态流,用于轻量快速的数据解析。
协程库
- 快速高效的协程切换支持
- 提供跨平台支持,核心切换算法参考 boost,并且对其进行重写和优化,目前支持架构:x86, x86_64, arm, arm64, mips32
- 提供 channel 协程间数据通信支持,基于生产、消费者模型
- 提供信号量、协程锁支持
- socket、stream 都模块原生支持协程,并且可在线程和协程间进行无缝切换
- 提供 http、file 等基于协程的简单服务器实例,只需几百行代码,就可以从 socket 开始写个高性能 io 服务器,代码逻辑比异步回调模式更加清晰
- 同时提供 stackfull, stackless 两种协程模式支持,stackless 协程更加的轻量(每个协程只占用几十个 bytes ),切换更快(会牺牲部分易用性)
- 支持 epoll, kqueue, poll, select 和 IOCP
数据库
- 统一并简化数据库操作接口,适配各种数据源,通过统一的 url 来自动连接打开支持的数据库,数据的枚举采用迭代器模型。
- 目前支持 sqlite3 以及 mysql 两种关系型数据库,也可自定义扩展使用其他关系型数据库。
xml 库
- 针对 xml 提供 DOM 和 SAX 两种解析模式,SAX 方式采用外部迭代模式,灵活性和性能更高,并且可以选择指定路径,进行解析。
- 解析过程完全基于 stream,所以是高度流化的,可以实现边下载、边解压、边转码、边解析一条龙服务,使用较低的内存也可以解析大规模数据。
- 提供 xml writer 以支持对 xml 生成
内存库
- 参考 linux 内核内存管理机制的实现,并对其进行各种改造和优化,所实现的 TBOX 独有的一整套内存池管理架构。
- 调试模式下,可以轻松检测并定位内存泄露、内存越界溢出、内存重叠覆盖等常见内存问题,并对整体内存的使用进行了统计和简要分析。
- 针对大块数据、小块数据、字符串数据进行了充分的利用,避免了大量外部碎片和内部碎片的产生。分配操作进行了各种优化,96%的情况下,效率都是在 O(1)。
容器库
- 提供哈希、链表、数组、队列、堆栈、最小最大堆等常用容器。
- 支持各种常用成员类型,在原有的容器期初上,其成员类型还可以完全自定义扩展。
- 所有容器都支持迭代器操作。
- 大部分容器都可以支持基于 stream 的序列化和反序列化操作。
算法库
- 提供各种排序算法:冒泡排序、堆排序、快速排序、插入排序。
- 提供各种查找算法:线性遍历、二分法搜索。
- 提供各种遍历、删除、统计算法。
- 以迭代器为接口,实现算法和容器的分离,类似 stl,但是 c 实现的,更加轻量。
网络库
- 实现 http 客户端模块
- 实现 cookies
- 实现 dns 解析与缓存
- 实现 ssl(支持 openssl, polarssl, mbedtls)
- 支持 ipv4、ipv6
- 支持通过协程实现异步模式
数学运算库
libc 库
- libc 的一个轻量级实现,完全跨平台,并且针对不同架构进行了优化。
- 支持大部分字符串、宽字符串操作。
- 扩展字符串、宽字符串的各种大小写不敏感操作接口
- 扩展
memset_u16
、memset_u32
等接口,并对其进行高度优化,尤其适合图形渲染程序
libm 库
- libm 部分接口的一个轻量级实现,以及对常用系统接口的封装。(目前只实现了部分,之后有时间会完全实现掉)
- 扩展部分常用接口,增加对 sqrt、log2 等常用函数的整数版本计算,进行高度优化,不涉及浮点运算,适合嵌入式环境使用。
object 库
- 轻量级类 apple 的 CoreFoundation 库,支持 object、dictionary、array、string、number、date、data 等常用对象,并且可以方便扩展自定义对象的序列化。
- 支持对 xml、json、binary 以及 apple 的 plist(xplist/bplist)格式序列化和反序列化。
并且实现自有的 binary 序列化格式, 针对明文进行了简单的加密,在不影响性能的前提下,序列化后的大小比 bplist 节省 30%。
平台库
- 提供 file、directory、socket、thread、time 等常用系统接口
- 提供 atomic、atomic64 接口
- 提供高精度、低精度定时器
- 提供高性能的线程池操作
- 提供 event、mutex、semaphore、spinlock 等事件、互斥、信号量、自旋锁操作
- 提供获取函数堆栈信息的接口,方便调试和错误定位
- 提供跨平台动态库加载接口(如果系统支持的话)
- 提供 io 轮询器,针对 epoll, poll, select, kqueue 进行跨平台封装
- 提供跨平台上下文切换接口,主要用于协程实现,切换效率非常高
压缩库
- 支持 zlib/zlibraw/gzip 的压缩与解压(需要第三方 zlib 库支持)。
字符编码库
- 支持 utf8、utf16、gbk、gb2312、uc2、uc4 之间的互相转码,并且支持大小端格式。
实用工具库
- 实现 base64/32 编解码
- 实现 crc32、adler32、md5、sha1 等常用 hash 算法
- 实现日志输出、断言等辅助调试工具
- 实现 url 编解码
- 实现位操作相关接口,支持各种数据格式的解析,可以对 8bits、16bits、32bits、64bits、float、double 以及任意 bits 的字段进行解析操作,并且同时支持大端、小端和本地端模式,并针对部分操作进行了优化,像 static_stream、stream 都有相关接口对其进行了封装,方便在流上进行快速数据解析。
- 实现 swap16、swap32、swap64 等位交换操作,并针对各个平台进行了优化。
- 实现一些高级的位处理接口,例如:位 0 的快速统计、前导 0 和前导 1 的快速位计数、后导 01 的快速位计数
- 实现单例模块,可以对静态对象、实例对象进行快速的单例封装,实现全局线程安全
- 实现 option 模块,对命令行参数进行解析,提供快速方便的命令行选项建立和解析操作,对于写终端程序还是很有帮助的
正则表达式库
- 支持匹配和替换操作
- 支持全局、多行、大小写不敏感等模式
- 使用 pcre, pcre2 和 posix 正则库