Franklin's Blog


  • Home

  • About

  • Tags

  • Categories

  • Archives

  • Search

Taylor艺术馆助手(TaylorPicAssistant)

Posted on 2018-12-22 | In Dev

介绍 Introduction

Taylor艺术馆助手(TaylorPicAssistant) 可以批量抓取下载Taylor艺术馆(https://www.taylorpictures.net) 相册,可以选择原图和缩略图模式。

TaylorPicAssistant is a free windows application to easily download single photo album of taylorpictures.net. I know we may use some universal website scraping software or browser user scripts to do so. But this application can bring us some fresh new experiences:

  1. Automatically create the local folder structure based on the album deep link.
  2. Support for creating photo album browsing page. Check out the index.html file once you completed a download operation.
  3. Continuously updated startup banner.
  4. Monitor clipboard and notify us once the album link is detected.
  5. From V3.0, support English and Simplified Chinese as UI language.
English 简体中文
Main Main
Setting Setting

前提 Prerequisites

软件需要 .NET Framework 4.6 组件: 下载安装

This program requires Microsoft .NET Framework 4.6: https://www.microsoft.com/en-us/download/details.aspx?id=48130

软件下载 Download

LINK

使用方式

  1. 输入相册链接,其中链接格式如下:
    相册地址格式:https://www.taylorpictures.net/thumbnails.php?album=XXXXX 或 https://taylorpictures.net/thumbnails.php?album=XXXXX
    其中XXXXX为数字,是相册的数字代号

    浏览器打开相册,复制地址栏链接即可
    或者选择监控剪贴板,复制链接后,即可自动抓取符合格式的链接,并且有弹出窗口提示

  2. 选择保存路径,默认为程序当前目录

    注意:可在程序目录下建立config.txt文件, 2.1版本采用YAML格式存储,单引号后面注意有一个空格

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    # Language, en or zh-CN | 程序语言,en 或者 zh-CN
    language: en

    # Album save path. If it is empty, the default is the program execution directory | 存储文件夹根目录。如果为空,默认为程序执行目录
    saveFolderPath:

    # Whether to automatically create a desktop shortcut, true or false. The default is true | 是否自动创建桌面快捷方式,true or false。默认为自动创建
    isAutoCreateShortCut: true

    # Whether to automatically store the most recently used save path, true or false. The default is false | 是否自动存储最近使用的保存路径,true or false。默认为false, 即不自动存储
    isAutoSaveDir: false

    # Whether to create a photo album browsing page, true or false. The default is true | 是否创建相册浏览网页, true or false。默认为自动创建
    isCreateAlbumPage: true

    # Whether to open the photo album browsing page after the download is complete, true or false. The default is true | 是否下载完成后打开相册浏览网页, true or false。默认为自动打开
    isOpenAlbumPageWhenComplete: true

    # Whether to download original photo, true or false. The default is true | 是否下载原图, true or false。默认为原图,否则为缩略图
    isDownloadOriginalPic: true

    # Whether to monitor the clipboard, true or false. The default is false | 是否监控剪贴板, true or false。默认为不监控
    isMonitorClipboard: false

    # The timeout for downloading a single photo, in seconds. The default is 20s | 单张照片下载超时时间, 单位为秒(second)。默认为20s
    downloadTimeout: 20
  3. 设置子面板中自定义选择”生成浏览网页”、”下载完成后打开网页”、”下载原图”后,点击下载按钮

How to Use

  1. Enter the album link, where the link format is as follows:
    https://www.taylorpictures.net/thumbnails.php?album=XXXXX or https://taylorpictures.net/thumbnails.php?album=XXXXX
    Where XXXXX is a digital number, which is the digital code of the album.

    Open the album in the browser and copy the link in the address bar.
    Or choose to monitor the clipboard, after copying the link, the link that conforms to the format can be automatically grabbed, and a pop-up window prompts.

  2. Select the album save path, the default is the current directory of the program.

    Note: You can modify the config.txt file in the program directory, in YAML format, and there is a space after the single quote.

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    # Language, en or zh-CN | 程序语言,en 或者 zh-CN
    language: en

    # Album save path. If it is empty, the default is the program execution directory | 存储文件夹根目录。如果为空,默认为程序执行目录
    saveFolderPath:

    # Whether to automatically create a desktop shortcut, true or false. The default is true | 是否自动创建桌面快捷方式,true or false。默认为自动创建
    isAutoCreateShortCut: true

    # Whether to automatically store the most recently used save path, true or false. The default is false | 是否自动存储最近使用的保存路径,true or false。默认为false, 即不自动存储
    isAutoSaveDir: false

    # Whether to create a photo album browsing page, true or false. The default is true | 是否创建相册浏览网页, true or false。默认为自动创建
    isCreateAlbumPage: true

    # Whether to open the photo album browsing page after the download is complete, true or false. The default is true | 是否下载完成后打开相册浏览网页, true or false。默认为自动打开
    isOpenAlbumPageWhenComplete: true

    # Whether to download original photo, true or false. The default is true | 是否下载原图, true or false。默认为原图,否则为缩略图
    isDownloadOriginalPic: true

    # Whether to monitor the clipboard, true or false. The default is false | 是否监控剪贴板, true or false。默认为不监控
    isMonitorClipboard: false

    # The timeout for downloading a single photo, in seconds. The default is 20s | 单张照片下载超时时间, 单位为秒(second)。默认为20s
    downloadTimeout: 20
  3. After custom selecting “Generate Web Page”, “Auto Open Web Page”, “Original Picture”, click the download button.

演示录像 Demo (Gif)

LINK

欢迎反馈使用问题和改进意见 Feedback on usage issues and improvements are welcome

更新日志 Release Log

3.0正式版(2021/03/01)

  1. 支持多语言,首先支持简体中文和英文
  2. 更新UI框架至最新稳定版本
  3. 更新软件启动横幅

2.3正式版(2020/08/09)

  1. 修正艺术馆页面更新带来的解析问题
  2. 更新最新域名

2.2正式版(2018/12/23)

  1. 因为艺术馆全站启用HTTPS安全链接,下载失效。此版本主要解决此问题
  2. 修复某些相册不合法字符提示的问题,例如:https://www.taylorpictures.net/thumbnails.php?album=3603
  3. 配置文件中支持超时秒数控制,默认20秒。对于某些相册中个别图片一直下载失败,可以尝试设置较大的秒数,这个取决于您的网络下载环境。例如慢速网络下,此数值设置为较大的整数,有利于程序等待下载完毕
    1
    2
    # 单张照片下载超时时间, 单位为秒(second)。默认为20s
    downloadTimeout: 20

2.1正式版(2018/02/23)

  1. 更新网站识别规则
  2. 更新Reputation专辑素材。 4张启动图随机更换,图标更新。感谢 氾黃鍀郵票, 逃亡车, 金钱主义者 提供Banner

  3. 采用新的配置文件存储格式,更多配置可以存储

2.0正式版(2015/07/27)

  1. Taylor艺术馆页面更新,同步修正分析代码
  2. 增加一张启动Banner 3.
  3. 增加部分新特性,下个版本考虑放出

V1.9正式版(2015/04/07)

  1. .NET版本提升至4.5,V1.9版本开始不支持XP,XP以上版本如果不能运行,请安装 .NET Framework 4.5
  2. 全新UI(Metro-style) 点击标题栏 设置 打开右侧面板:

    设置界面

    软件相关:

    软件相关

  3. 启动界面随机更换,如果有好的Banner,欢迎发邮件:openszone[AT]gmail.com, 大小580 x 205 pixels,jpg格式

    Banner

  4. 软件图标更新,感谢 氾黃鍀郵票
  5. 一些BUG修复

V1.7正式版(2013/05/26)

  1. 界面更新
  2. 小问题修复

V1.6正式版(2013/04/04)

  1. 启动时自动创建桌面快捷方式(可在配置文件中关闭自动创建),具体见下方图示:config.txt文件格式图解
  2. About窗口增加Donate捐助链接
  3. 配置文件格式修改

V1.5.5(2013/03/29)

  1. 增加下载完成打开文件夹提示

  2. 修正某些因图片格式不同导致的问题
  3. 逻辑微调

V1.5正式版(2013/03/17)

  1. 不需要重启应用即可下载其他相册
  2. 解决一些小BUG

V1.4正式版(2013/03/15)

  1. 修复重新下载无法开始的BUG
  2. 保存路径不存在时可选择自动新建
  3. 下载操作后,暂时只可重启应用,下载其他相册,下个版本将不需要重启

V1.3正式版(2013/02/26)

  1. 添加启动画面,用于检查更新
  2. 更新功能修改

V1.2.8(2013/02/26)

  1. 启动时自动检查更新
  2. 支持不需要重启软件即可重新下载相册
  3. 一些细微调整

V1.2.5(2013/02/25)

  1. 屏蔽迅雷等与剪贴板监控功能冲突的软件,程序会自动检测,提示关闭,点击OK关闭进程

  2. 失败计数功能BUG修复

V1.2正式版(2013/02/25)

  1. 增加剪贴板监控功能,检测到合法链接会自动提示

  2. 下载成功提示优化,如果有下载失败的图片,会提示对应数量

V1.1正式版(2013/02/16)

  1. 修复下载原图的错误,误认为中图为原图,感谢百度网友撑一把小伞的反馈
  2. 修复一个大BUG,多页下载逻辑错误
  3. 考虑到原图文件尺寸较大,调整线程延迟和重试时间
  4. 修复某些相册路径无法识别的BUG

V1.0正式版(2013/02/11)

  1. 增加自动分级目录功能

V0.9测试版(2013/02/09)

TypeScript Notes

Posted on 2018-04-03 | In Dev

Ref

  • Official Documentation

Basic Types

Boolean

let isDone: boolean = false

Number

1
2
3
4
let decimal: number = 6;
let hex: number = 0xf00d;
let binary: number = 0b1010;
let octal: number = 0o744;

String

Just like JavaScript, TypeScript also uses double quotes (“) or single quotes (‘) to surround string data.

1
2
let color:string = "blue"
color = 'red'

Template: Surrounded by the backtick/backquote (`) character, and embedded expressions are of the form ${ expr }.

1
2
3
4
let fullName: string = `Bob Bobbington`;
let age: number = 37;
let sentence: string = `Hello, my name is ${ fullName }.
I'll be ${ age + 1 } years old next month.`;

Equals to:

let sentence: string = "Hello, my name is " + fullName + ".\n\n" + "I'll be " + (age + 1) + " years old next month.";

Array

  • Use the type of the elements followed by [] to denote an array of that element type

    let list: number[] = [1, 2, 3];

  • The second way uses a generic array type, Array:

    let list: Array<number> = [1, 2, 3];

Tuple

1
2
3
4
5
6
// Declare a tuple type
let x: [string, number];
// Initialize it
x = ["hello", 10]; // OK
// Initialize it incorrectly
x = [10, "hello"]; // Error

Access element with index:

1
2
console.log(x[0].substr(1)); // OK
console.log(x[1].substr(1)); // Error, 'number' does not have 'substr'

When accessing an element outside the set of known indices, a union type is used instead:

1
2
3
4
5
x[3] = "world"; // OK, 'string' can be assigned to 'string | number'

console.log(x[5].toString()); // OK, 'string' and 'number' both have 'toString'

x[6] = true; // Error, 'boolean' isn't 'string | number'

Enum

1
2
enum Color {Red, Green, Blue}
let c: Color = Color.Green;

By default, enums begin numbering their members starting at 0. You can change this by manually setting the value of one of its members. For example, we can start the previous example at 1 instead of 0:

1
2
enum Color {Red = 1, Green, Blue}
let c: Color = Color.Green;

Manually set all the values in the enum:

1
2
enum Color {Red = 1, Green = 2, Blue = 4}
let c: Color = Color.Green;

Any

1
2
3
let notSure: any = 4;
notSure = "maybe a string instead";
notSure = false; // okay, definitely a boolean

The any type is a powerful way to work with existing JavaScript, allowing you to gradually opt-in and opt-out of type-checking during compilation. You might expect Object to play a similar role, as it does in other languages. But variables of type Object only allow you to assign any value to them - you can’t call arbitrary methods on them, even ones that actually exist:

1
2
3
4
5
6
let notSure: any = 4;
notSure.ifItExists(); // okay, ifItExists might exist at runtime
notSure.toFixed(); // okay, toFixed exists (but the compiler doesn't check)

let prettySure: Object = 4;
prettySure.toFixed(); // Error: Property 'toFixed' doesn't exist on type 'Object'.

The any type is also handy if you know some part of the type, but perhaps not all of it. For example, you may have an array but the array has a mix of different types:

1
2
3
let list: any[] = [1, true, "free"];

list[1] = 100;

Void

void is a little like the opposite of any: the absence of having any type at all. You may commonly see this as the return type of functions that do not return a value:

1
2
3
function warnUser(): void {
alert("This is my warning message");
}

Declaring variables of type void is not useful because you can only assign undefined or null to them:

let unusable: void = undefined;

Null and Undefined

By default null and undefined are subtypes of all other types. That means you can assign null and undefined to something like number.

However, when using the --strictNullChecks flag, null and undefined are only assignable to void and their respective types. This helps avoid many common errors. In cases where you want to pass in either a string or null or undefined, you can use the union type string | null | undefined. Once again, more on union types later on.

As a note: we encourage the use of --strictNullChecks when possible, but for the purposes of this handbook, we will assume it is turned off.

Never

The never type represents the type of values that never occur.

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
// Function returning never must have unreachable end point
function error(message: string): never {
throw new Error(message);
}

// Inferred return type is never
function fail() {
return error("Something failed");
}

// Function returning never must have unreachable end point
function infiniteLoop(): never {
while (true) {
}
}

Type assertions

Type assertions have two forms.

  • One is the “angle-bracket” syntax:

    1
    2
    3
    let someValue: any = "this is a string";

    let strLength: number = (<string>someValue).length;
  • The other is the as -syntax:

    1
    2
    3
    let someValue: any = "this is a string";

    let strLength: number = (someValue as string).length;

When using TypeScript with JSX, only as -style assertions are allowed.

Variable Declarations

Interfaces

Classes

Functions

Generics

Enums

Type Inference

Type Compatibility

Advanced Types

Symbols

Iterators and Generators

Modules

Namespaces

Namespaces and Modules

Module Resolution

Declaration Merging

JSX

Decorators

Mixins

Triple-Slash Directives

Type Checking JavaScript Files

Python Common Library

Posted on 2018-02-27 | In Dev

Markdown formatting: Franklin Chen

Ref: https://www.zhihu.com/question/20501628/answer/223340838

环境管理

管理 Python 版本和环境的工具

  • p – 非常简单的交互式 python 版本管理工具.
  • pyenv – 简单的 Python 版本管理工具.
  • Vex – 可以在虚拟环境中执行命令.
  • virtualenv – 创建独立 Python 环境的工具.
  • virtualenvwrapper- virtualenv 的一组扩展.

包管理

管理包和依赖的工具.

  • pip – Python 包和依赖关系管理工具.
  • pip-tools – 保证 Python 包依赖关系更新的一组工具.
  • conda – 跨平台,Python 二进制包管理工具.
  • Curdling – 管理 Python 包的命令行工具.
  • wheel – Python 分发的新标准,意在取代 eggs.

包仓库

本地 PyPI 仓库服务和代理.

  • warehouse – 下一代 PyPI.
  • Warehousebandersnatch – PyPA 提供的 PyPI 镜像工具.
  • devpi – PyPI 服务和打包/测试/分发工具.
  • localshop – 本地 PyPI 服务(自定义包并且自动对 PyPI 镜像).

分发

打包为可执行文件以便分发.

  • PyInstaller – 将 Python 程序转换成独立的执行文件(跨平台).
  • dh-virtualenv – 构建并将 virtualenv 虚拟环境作为一个 Debian 包来发布.
  • Nuitka – 将脚本、模块、包编译成可执行文件或扩展模块.
  • py2app – 将 Python 脚本变为独立软件包(Mac OS X).
  • py2exe – 将 Python 脚本变为独立软件包(Windows).
  • pynsist – 一个用来创建 Windows 安装程序的工具,可以在安装程序中打包 Python本身.

构建工具

将源码编译成软件.

  • buildout – 一个构建系统,从多个组件来创建,组装和部署应用.
  • BitBake – 针对嵌入式 Linux 的类似 make 的构建工具.
  • fabricate – 对任何语言自动找到依赖关系的构建工具.
  • PlatformIO – 多平台命令行构建工具.
  • PyBuilder – 纯 Python 实现的持续化构建工具.
  • SCons – 软件构建工具.

交互式解析器

交互式 Python 解析器.

  • IPython – 功能丰富的工具,非常有效的使用交互式 Python.
  • bpython- 界面丰富的 Python 解析器.
  • ptpython – 高级交互式Python解析器, 构建于python-prompt-toolkit 之上.

文件

文件管理和 MIME(多用途的网际邮件扩充协议)类型检测.

  • imghdr – (Python 标准库)检测图片类型.
  • mimetypes – (Python 标准库)将文件名映射为 MIME 类型.
  • path.py – 对 os.path 进行封装的模块.
  • pathlib – (Python3.4+ 标准库)跨平台的、面向对象的路径操作库.
  • python-magic- 文件类型检测的第三方库 libmagic 的 Python 接口.
  • Unipath- 用面向对象的方式操作文件和目录
  • watchdog – 管理文件系统事件的 API 和 shell 工具

日期和时间

操作日期和时间的类库.

  • arrow- 更好的 Python 日期时间操作类库.
  • Chronyk – Python 3 的类库,用于解析手写格式的时间和日期.
  • dateutil – Python datetime 模块的扩展.
  • delorean- 解决 Python 中有关日期处理的棘手问题的库.
  • moment – 一个用来处理时间和日期的Python库.灵感来自于Moment.js.
  • PyTime – 一个简单易用的Python模块,用于通过字符串来操作日期/时间.
  • pytz – 现代以及历史版本的世界时区定义.将时区数据库引入Python.
  • when.py – 提供用户友好的函数来帮助用户进行常用的日期和时间操作.

文本处理

用于解析和操作文本的库.

通用

  • chardet – 字符编码检测器,兼容 Python2 和 Python3
  • difflib – (Python 标准库)帮助我们进行差异化比较
  • ftfy – 让Unicode文本更完整更连贯
  • fuzzywuzzy – 模糊字符串匹配
  • Levenshtein – 快速计算编辑距离以及字符串的相似度
  • pangu.py – 在中日韩语字符和数字字母之间添加空格
  • pyfiglet -figlet 的 Python实现
  • shortuuid – 一个生成器库,用以生成简洁的,明白的,URL 安全的 UUID
  • unidecode – Unicode 文本的 ASCII 转换形式
  • uniout – 打印可读的字符,而不是转义的字符串
  • xpinyin – 一个用于把汉字转换为拼音的库

Slug化

  • awesome-slugify – 一个 Python slug 化库,可以保持 Unicode
  • python-slugify – Python slug 化库,可以把 unicode 转化为 ASCII
  • unicode-slugify – 一个 slug 工具,可以生成 unicode slugs ,需要依赖 Django

解析器

  • phonenumbers – 解析,格式化,储存,验证电话号码
  • PLY – lex 和 yacc 解析工具的 Python 实现
  • Pygments – 通用语法高亮工具
  • pyparsing – 生成通用解析器的框架
  • python-nameparser – 把一个人名分解为几个独立的部分
  • python-user-agents – 浏览器 user agent 解析器
  • sqlparse – 一个无验证的 SQL 解析器

特殊文本格式处理

一些用来解析和操作特殊文本格式的库

通用

  • tablib – 一个用来处理中表格数据的模块

    Office

  • Marmir – 把输入的Python 数据结构转换为电子表单
  • openpyxl – 一个用来读写 Excel 2010 xlsx/xlsm/xltx/xltm 文件的库
  • python-docx – 读取,查询以及修改 Microsoft Word 2007/2008 docx 文件
  • unoconv – 在 LibreOffice/OpenOffice 支持的任意文件格式之间进行转换
  • XlsxWriter – 一个用于创建 Excel .xlsx 文件的 Python 模块
  • xlwings – 一个使得在 Excel 中方便调用 Python 的库(反之亦然),基于 BSD 协议
  • xlwt / xlrd – 读写 Excel 文件的数据和格式信息
  • relatorio – 模板化OpenDocument 文件

    PDF

  • PDFMiner – 一个用于从PDF文档中抽取信息的工具
  • PyPDF2 – 一个可以分割,合并和转换 PDF 页面的库
  • ReportLab – 快速创建富文本 PDF 文档
  • Markdown
  • Mistune – 快速并且功能齐全的纯 Python 实现的 Markdown 解析器
  • Python-Markdown – John Gruber’s Markdown 的 Python 版实现

    YAML

  • PyYAML – Python 版本的 YAML 解析器

    CSV

  • csvkit – 用于转换和操作 CSV 的工具

    Archive

  • unp – 一个用来方便解包归档文件的命令行工具

自然语言处理

用来处理人类语言的库

  • NLTK – 一个先进的平台,用以构建处理人类语言数据的 Python 程序
  • jieba – 中文分词工具
  • langid.py – 独立的语言识别系统
  • Pattern – Python 网络信息挖掘模块
  • SnowNLP – 一个用来处理中文文本的库
  • TextBlob – 为进行普通自然语言处理任务提供一致的 API
  • TextGrocery – 一简单高效的短文本分类工具,基于 LibLinear 和 Jieba

文档

用以生成项目文档的库

  • Sphinx – Python 文档生成器
  • awesome-sphinxdoc
  • MkDocs – 对 Markdown 友好的文档生成器
  • pdoc – 一个可以替换Epydoc 的库,可以自动生成 Python 库的 API 文档
  • Pycco – 文学编程(literate-programming)风格的文档生成器

配置

用来保存和解析配置的库

  • config – logging 模块作者写的分级配置模块
  • ConfigObj – INI 文件解析器,带验证功能
  • ConfigParser – (Python 标准库) INI 文件解析器
  • profig – 通过多种格式进行配置,具有数值转换功能
  • python-decouple – 将设置和代码完全隔离

命令行工具

用于创建命令行程序的库

命令行程序开发

  • cement – Python 的命令行程序框架.
  • click – 一个通过组合的方式来创建精美命令行界面的包.
  • cliff – 一个用于创建命令行程序的框架,可以创建具有多层命令的命令行程序.
  • clint – Python 命令行程序工具.
  • colorama – 跨平台彩色终端文本.
  • docopt – Python 风格的命令行参数解析器.
  • Gooey – 一条命令,将命令行程序变成一个 GUI 程序.
  • python-prompt-toolkit – 一个用于构建强大的交互式命令行程序的库.

生产力工具

  • aws-cli – Amazon Web Services 的通用命令行界面
  • bashplotlib – 在终端中进行基本绘图
  • caniusepython3 – 判断是哪个项目妨碍你你移植到 Python 3
  • cookiecutter – 从 cookiecutters(项目模板)创建项目的一个命令行工具
  • doitlive – 一个用来在终端中进行现场演示的工具
  • howdoi – 通过命令行获取即时的编程问题解答
  • httpie – 一个命令行HTTP 客户端,cURL 的替代品,易用性更好
  • PathPicker – 从bash输出中选出文件
  • percol – 向UNIX shell 传统管道概念中加入交互式选择功能
  • SAWS – 一个加强版的 AWS 命令行
  • thefuck – 修正你之前的命令行指令
  • mycli – 一个 MySQL 命令行客户端,具有自动补全和语法高亮功能
  • pgcli – Postgres 命令行工具,具有自动补全和语法高亮功能

下载器

用来进行下载的库.

  • s3cmd – 一个用来管理Amazon S3 和 CloudFront 的命令行工具
  • s4cmd – 超级 S3 命令行工具,性能更加强劲
  • you-get – 一个 YouTube/Youku/Niconico 视频下载器,使用 Python3 编写
  • youtube-dl – 一个小巧的命令行程序,用来下载 YouTube 视频

图像处理

用来操作图像的库

  • pillow – Pillow 是一个更加易用版的 PIL
  • hmap – 图像直方图映射
  • imgSeek – 一个使用视觉相似性搜索一组图片集合的项目
  • nude.py – 裸体检测
  • pyBarcode – 不借助 PIL 库在 Python 程序中生成条形码
  • pygram – 类似 Instagram 的图像滤镜
  • python-qrcode – 一个纯 Python 实现的二维码生成器
  • Quads – 基于四叉树的计算机艺术
  • scikit-image – 一个用于(科学)图像处理的 Python 库
  • thumbor – 一个小型图像服务,具有剪裁,尺寸重设和翻转功能
  • wand – MagickWand的Python 绑定.MagickWand 是 ImageMagick的 C API

OCR

光学字符识别库

  • pyocr – Tesseract 和 Cuneiform 的一个封装(wrapper)
  • pytesseract – Google Tesseract OCR 的另一个封装(wrapper)
  • python-tesseract – Google Tesseract OCR 的一个包装类

音频

用来操作音频的库

  • audiolazy -Python 的数字信号处理包
  • udioread – 交叉库 (GStreamer + Core Audio + MAD + FFmpeg) 音频解码
  • beets – 一个音乐库管理工具及 MusicBrainz 标签添加工具
  • dejavu – 音频指纹提取和识别
  • django-elastic-transcoder – Django + Amazon Elastic Transcoder
  • eyeD3 – 一个用来操作音频文件的工具,具体来讲就是包含 ID3 元信息的 MP3 文件
  • id3reader – 一个用来读取 MP3 元数据的 Python 模块
  • m3u8 – 一个用来解析 m3u8 文件的模块
  • mutagen – 一个用来处理音频元数据的 Python 模块
  • pydub – 通过简单、简洁的高层接口来操作音频文件
  • pyechonest – Echo Nest API 的 Python 客户端
  • talkbox – 一个用来处理演讲/信号的 Python 库
  • TimeSide – 开源 web 音频处理框架
  • tinytag – 一个用来读取MP3, OGG, FLAC 以及 Wave 文件音乐元数据的库
  • mingus – 一个高级音乐理论和曲谱包,支持 MIDI 文件和回放功能

视频

用来操作视频和GIF的库

  • moviepy – 一个用来进行基于脚本的视频编辑模块,适用于多种格式,包括动图 GIFs
  • scikit-video – SciPy 视频处理常用程序

地理位置

地理编码地址以及用来处理经纬度的库

  • GeoDjango – 世界级地理图形 web 框架
  • GeoIP – MaxMind GeoIP Legacy 数据库的 Python API
  • geojson – GeoJSON 的 Python 绑定及工具
  • geopy – Python 地址编码工具箱
  • pygeoip – 纯 Python GeoIP API
  • django-countries – 一个 Django 应用程序,提供用于表格的国家选择功能,国旗图标静态文件以及模型中的国家字段

HTTP

使用HTTP的库

  • requests – 人性化的HTTP请求库.
  • grequests – requests 库 + gevent ,用于异步 HTTP 请求
  • httplib2 – 全面的 HTTP 客户端库
  • treq – 类似 requests 的Python API 构建于 Twisted HTTP 客户端之上
  • urllib3 – 一个具有线程安全连接池,支持文件 post,清晰友好的 HTTP 库

数据库

Python实现的数据库

  • pickleDB – 一个简单,轻量级键值储存数据库
  • PipelineDB – 流式 SQL 数据库
  • TinyDB – 一个微型的,面向文档型数据库
  • ZODB – 一个 Python 原生对象数据库.一个键值和对象图数据库

数据库驱动

用来连接和操作数据库的库

  • MySQL – awesome-mysql系列
  • mysql-python – Python 的 MySQL 数据库连接器
  • mysqlclient – mysql-python 分支,支持 Python 3
  • oursql – 一个更好的 MySQL 连接器,支持原生预编译指令和 BLOBs
  • PyMySQL – 纯 Python MySQL 驱动,兼容 mysql-python
  • PostgreSQL
  • psycopg2 – Python 中最流行的 PostgreSQL 适配器
  • queries – psycopg2 库的封装,用来和 PostgreSQL 进行交互
  • txpostgres – 基于 Twisted 的异步 PostgreSQL 驱动

其他关系型数据库

  • apsw – 另一个 Python SQLite封装.
  • dataset – 在数据库中存储Python字典 – 可以协同SQLite,MySQL,和 PostgreSQL工作
  • pymssql- 一个简单的Microsoft SQL Server数据库接口

NoSQL 数据库

  • cassandra-python-driver – Cassandra 的 Python 驱动
  • HappyBase – 一个为 Apache HBase 设计的,对开发者友好的库
  • Plyvel – 一个快速且功能丰富的 LevelDB 的 Python 接口
  • py2neo – Neo4j restful 接口的Python 封装客户端
  • pycassa – Cassandra 的 Python Thrift 驱动
  • PyMongo – MongoDB 的官方 Python 客户端
  • redis-py – Redis 的 Python 客户端
  • telephus – 基于 Twisted 的 Cassandra 客户端
  • txRedis – 基于 Twisted 的 Redis 客户端

ORM

实现对象关系映射或数据映射技术的库

关系型数据库

  • Django Models – Django 的一部分
  • SQLAlchemy – Python SQL 工具以及对象关系映射工具
  • awesome-sqlalchemy系列
  • Peewee – 一个小巧,富有表达力的 ORM
  • PonyORM – 提供面向生成器的 SQL 接口的 ORM
  • python-sql – 编写 Python 风格的 SQL 查询

NoSQL 数据库

  • django-mongodb-engine – Django MongoDB 后端
  • PynamoDB – Amazon DynamoDB 的一个 Python 风格接口
  • flywheel – Amazon DynamoDB 的对象映射工具
  • MongoEngine – 一个Python 对象文档映射工具,用于 MongoDB
  • hot-redis – 为 Redis 提供 Python 丰富的数据类型
  • redisco – 一个 Python 库,提供可以持续存在在 Redis 中的简单模型和容器

其他

  • butterdb – Google Drive 电子表格的 Python ORM

Web 框架

全栈 web 框架

  • Django – Python 界最流行的 web 框架
  • awesome-django系列
  • Flask – 一个 Python 微型框架. https://github.com/humiaozuzu/awesome-flask系列
  • Pyramid – 一个小巧,快速,接地气的开源Python web 框架
  • awesome-pyramid系列
  • Bottle – 一个快速小巧,轻量级的 WSGI 微型 web 框架
  • CherryPy – 一个极简的 Python web 框架,服从 HTTP/1.1 协议且具有WSGI 线程池
  • TurboGears – 一个可以扩展为全栈解决方案的微型框架
  • web.py – 一个 Python 的 web 框架,既简单,又强大
  • web2py – 一个全栈 web 框架和平台,专注于简单易用
  • Tornado – 一个web 框架和异步网络库

权限

允许或拒绝用户访问数据或功能的库

  • Carteblanche – Module to align code with thoughts of users and designers. Also magically handles navigation and permissions
  • django-guardian – Django 1.2+ 实现了单个对象权限
  • django-rules – 一个小巧但是强大的应用,提供对象级别的权限管理,且不需要使用数据库

CMS

内容管理系统

  • django-cms – 一个开源的,企业级 CMS,基于 Django
  • djedi-cms – 一个轻量级但却非常强大的 Django CMS ,考虑到了插件,内联编辑以及性能
  • FeinCMS – 基于 Django 构建的最先进的内容管理系统之一
  • Kotti – 一个高级的,Python 范的 web 应用框架,基于 Pyramid 构建
  • Mezzanine – 一个强大的,持续的,灵活的内容管理平台
  • Opps – 一个为杂志,报纸网站以及大流量门户网站设计的 CMS 平台,基于 Django
  • Plone – 一个构建于开源应用服务器 Zope 之上的 CMS
  • Quokka – 灵活,可扩展的小型 CMS,基于 Flask 和 MongoDB
  • Wagtail – 一个 Django 内容管理系统
  • Widgy – 最新的 CMS 框架,基于 Django

电子商务

用于电子商务以及支付的框架和库

  • django-oscar – 一个用于 Django 的开源的电子商务框架
  • django-shop – 一个基于 Django 的店铺系统
  • Cartridge – 一个基于 Mezzanine 构建的购物车应用
  • shoop – 一个基于 Django 的开源电子商务平台
  • alipay – 非官方的 Python 支付宝 API
  • merchant – 一个可以接收来自多种支付平台支付的 Django 应用
  • money – 货币类库with optional CLDR-backed locale-aware formatting and an extensible currency exchange solution
  • python-currencies – 显示货币格式以及它的数值

RESTful API

用来开发RESTful APIs的库

Django

  • django-rest-framework – 一个强大灵活的工具,用来构建 web API
  • django-tastypie – 为Django 应用开发API
  • django-formapi – 为 Django 的表单验证,创建 JSON APIs

Flask

  • flask-api – 为 flask 开发的,可浏览 Web APIs
  • flask-restful – 为 flask 快速创建REST APIs
  • flask-restless – 为 SQLAlchemy 定义的数据库模型创建 RESTful APIs
  • flask-api-utils – 为 Flask 处理 API 表示和验证
  • eve – REST API 框架,由 Flask, MongoDB 等驱动

Pyramid

  • cornice – 一个Pyramid 的 REST 框架

与框架无关的

  • falcon – 一个用来建立云 API 和 web app 后端的噶性能框架
  • sandman – 为现存的数据库驱动系统自动创建 REST APIs
  • restless – 框架无关的 REST 框架 ,基于从 Tastypie 学到的知识
  • ripozo – 快速创建 REST/HATEOAS/Hypermedia APIs

验证

实现验证方案的库

OAuth

  • Authomatic – 简单但是强大的框架,身份验证/授权客户端
  • django-allauth – Django 的验证应用
  • django-oauth-toolkit – 为 Django 用户准备的 OAuth2
  • django-oauth2-provider – 为 Django 应用提供 OAuth2 接入
  • Flask-OAuthlib – OAuth 1.0/a, 2.0 客户端实现,供 Flask 使用
  • OAuthLib – 一个 OAuth 请求-签名逻辑通用、 完整的实现
  • python-oauth2 – 一个完全测试的抽象接口.用来创建 OAuth 客户端和服务端
  • python-social-auth – 一个设置简单的社会化验证方式
  • rauth – OAuth 1.0/a, 2.0, 和 Ofly 的 Python 库
  • sanction – 一个超级简单的OAuth2 客户端实现

其他

  • jose – JavaScript 对象签名和加密草案的实现
  • PyJWT – JSON Web 令牌草案 01
  • python-jws – JSON Web 签名草案 02 的实现
  • python-jwt – 一个用来生成和验证 JSON Web 令牌的模块

模板引擎

模板生成和词法解析的库和工具

  • Jinja2 – 一个现代的,对设计师友好的模板引擎
  • Chameleon – 一个 HTML/XML 模板引擎. 模仿了 ZPT(Zope Page Templates), 进行了速度上的优化
  • Genshi – Python 模板工具,用以生成 web 感知的结果
  • Mako – Python 平台的超高速轻量级模板

Queue

处理事件以及任务队列的库

  • celery – 一个异步任务队列/作业队列,基于分布式消息传递
  • huey – 小型多线程任务队列
  • mrq – Mr. Queue -一个 Python 的分布式 worker 任务队列, 使用 Redis 和 gevent
  • rq – 简单的 Python 作业队列
  • simpleq – 一个简单的,可无限扩张的,基于亚马逊 SQS 的队列

搜索

对数据进行索引和执行搜索查询的库和软件

  • django-haystack – Django 模块化搜索
  • elasticsearch-py – Elasticsearch 的官方底层 Python 客户端
  • elasticsearch-dsl-py -Elasticsearch 的官方高级 Python 客户端
  • solrpy – solr的 Python 客户端
  • Whoosh – 一个快速的纯 Python 搜索引擎库

动态消息

用来创建用户活动的库

  • django-activity-stream – 从你的站点行为中生成通用活动信息流
  • Stream-Framework – 使用 Cassandra 和 Redis 创建动态消息和通知系统

资源管理

管理、压缩、缩小网站资源的工具

  • django-compressor – 将链接和内联的 JavaScript 或 CSS 压缩到一个单独的缓存文件中
  • django-storages – 一个针对 Django 的自定义存储后端的工具集合
  • fanstatic – 打包、优化,并且把静态文件依赖作为 Python 的包来提供
  • File Conveyor – 一个后台驻留的程序,用来发现和同步文件到 CDNs, S3 和 FTP
  • Flask-Assets – 帮你将 web 资源整合到你的 Flask app 中
  • jinja-assets-compressor – 一个 Jinja 扩展,用来编译和压缩你的资源
  • webassets – 为你的静态资源打包、优化和管理生成独一无二的缓存 URL

缓存

缓存数据的库

  • Beaker – 一个缓存和会话库,可以用在 web 应用和独立 Python脚本和应用上
  • django-cache-machine – Django 模型的自动缓存和失效
  • django-cacheops- 具有自动颗粒化事件驱动失效功能的 ORM
  • django-viewlet – 渲染模板,同时具有额外的缓存控制功能
  • dogpile.cache – dogpile.cache 是 Beaker 的下一代替代品,由同一作者开发
  • HermesCache – Python 缓存库,具有基于标签的失效和 dogpile effect 保护功能
  • johnny-cache – django应用缓存框架
  • pylibmc – libmemcached 接口的 Python 封装

电子邮件

用来发送和解析电子邮件的库

  • django-celery-ses – 带有 AWS SES 和 Celery 的 Django email 后端
  • envelopes – 供人类使用的电子邮件库
  • flanker – 一个 email 地址和 Mime 解析库
  • imbox – Python IMAP 库
  • inbox.py – Python SMTP 服务器
  • inbox – 一个开源电子邮件工具箱
  • lamson – Python 风格的 SMTP 应用服务器
  • mailjet – Mailjet API 实现,用来提供批量发送邮件,统计等功能
  • marrow.mailer – 高性能可扩展邮件分发框架
  • modoboa – 一个邮件托管和管理平台,具有现代的、简约的 Web UI
  • pyzmail – 创建,发送和解析电子邮件
  • Talon – Mailgun 库,用来抽取信息和签名

国际化

用来进行国际化的库

  • Babel – 一个Python 的国际化库
  • Korean – 一个韩语词态库

URL处理

解析URLs的库

  • furl – 一个让处理 URL 更简单小型 Python 库
  • purl – 一个简单的,不可变的URL类,具有简洁的 API 来进行询问和处理
  • pyshorteners – 一个纯 Python URL 缩短库
  • shorturl- 生成短小 URL 和类似 http://bit.ly 短链的Python 实现
  • webargs – 一个解析 HTTP 请求参数的库,内置对流行 web 框架的支持,包括 Flask, Django, Bottle, Tornado和 Pyramid

HTML处理

处理 HTML和XML的库

  • BeautifulSoup – 以 Python 风格的方式来对 HTML 或 XML 进行迭代,搜索和修改
  • bleach – 一个基于白名单的 HTML 清理和文本链接库
  • cssutils – 一个 Python 的 CSS 库
  • html5lib – 一个兼容标准的 HTML 文档和片段解析及序列化库
  • lxml – 一个非常快速,简单易用,功能齐全的库,用来处理 HTML 和 XML
  • MarkupSafe – 为Python 实现 XML/HTML/XHTML 标记安全字符串
  • pyquery – 一个解析 HTML 的库,类似 jQuery
  • untangle – 将XML文档转换为Python对象,使其可以方便的访问
  • xhtml2pdf – HTML/CSS 转 PDF 工具
  • xmltodict – 像处理 JSON 一样处理 XML

网络站点爬取

爬取网络站点的库

  • Scrapy – 一个快速高级的屏幕爬取及网页采集框架
  • cola – 一个分布式爬虫框架
  • Demiurge – 基于PyQuery 的爬虫微型框架
  • feedparser – 通用 feed 解析器
  • Grab – 站点爬取框架
  • MechanicalSoup – 用于自动和网络站点交互的 Python 库
  • portia – Scrapy 可视化爬取
  • pyspider – 一个强大的爬虫系统
  • RoboBrowser – 一个简单的,Python 风格的库,用来浏览网站,而不需要一个独立安装的浏览器

网页内容提取

用于进行网页内容提取的库

  • Haul – 一个可以扩展的图像爬取工具
  • html2text – 将 HTML 转换为 Markdown 格式文本
  • lassie – 人性化的网页内容检索库
  • micawber -一个小型网页内容提取库,用来从 URLs 提取富内容
  • newspaper – 使用 Python 进行新闻提取,文章提取以及内容策展
  • opengraph – 一个用来解析开放内容协议(Open Graph Protocol)的 Python模块
  • python-goose – HTML内容/文章提取器
  • python-readability- arc90 公司 readability 工具的 Python 高速端口
  • sanitize – 为杂乱的数据世界带来调理性
  • sumy – 一个为文本文件和 HTML 页面进行自动摘要的模块
  • textract – 从任何格式的文档中提取文本,Word,PowerPoint,PDFs 等等

表单

进行表单操作的库

  • Deform – Python HTML 表单生成库,受到了 formish 表单生成库的启发
  • django-bootstrap3- 集成了 Bootstrap 3 的 Django.
  • django-crispy-forms – 一个 Django 应用,他可以让你以一种非常优雅且 DRY(Don’t repeat yourself) 的方式来创建美观的表单
  • django-remote-forms- 一个平台独立的 Django 表单序列化工具
  • WTForms – 一个灵活的表单验证和呈现库
  • WTForms-JSON- 一个 WTForms 扩展,用来处理 JSON 数据

数据验证

数据验证库.多用于表单验证

  • Cerberus – A mappings-validator with a variety of rules, normalization-features and simple customization that uses a pythonic schema-definition
  • colander – 一个用于对从 XML, JSON,HTML 表单获取的数据或其他同样简单的序列化数据进行验证和反序列化的系统
  • kmatch – 一种用于匹配/验证/筛选 Python 字典的语言
  • schema -一个用于对 Python 数据结构进行验证的库
  • Schematics – 数据结构验证
  • valideer – 轻量级可扩展的数据验证和适配库
  • voluptuous – 一个 Python 数据验证库.主要是为了验证传入 Python的 JSON,YAML 等数据

反垃圾技术

帮助你和电子垃圾进行战斗的库

  • django-simple-captcha – 一个简单、高度可定制的Django 应用,可以为任何Django表单添加验证码
  • django-simple-spam-blocker- 一个用于Django的简单的电子垃圾屏蔽工具

标记

用来进行标记的库

  • django-taggit – 简单的 Django 标记工具

管理面板

管理界面库

  • Ajenti – 一个你的服务器值得拥有的管理面板
  • django-suit – Django 管理界面的一个替代品 (仅对于非商业用途是免费的)
  • django-xadmin – Django admin 的一个替代品,具有很多不错的功能
  • flask-admin – 一个用于 Flask 的简单可扩展的管理界面框架
  • flower – 一个对 Celery 集群进行实时监控和提供 web 管理界面的工具
  • Grappelli – Django 管理界面的一个漂亮的皮肤
  • Wooey – 一个 Django 应用,可以为 Python 脚本创建 web 用户界面

静态站点生成器

静态站点生成器是一个软件,它把文本和模板作为输入,然后输出HTML文件

  • Pelican – 使用 Markdown 或 ReST 来处理内容, Jinja 2 来制作主题.支持 DVCS, Disqus..AGPL 许可
  • Cactus – 为设计师设计的静态站点生成器
  • Hyde – 基于 Jinja2 的静态站点生成器
  • Nikola – 一个静态网站和博客生成器
  • Tinkerer – Tinkerer 是一个博客引擎/静态站点生成器,由Sphinx驱动
  • Lektor – 一个简单易用的静态 CMS 和博客引擎

#进程
操作系统进程启动及通信库

  • envoy – 比 Python subprocess 模块更人性化
  • sarge – 另一 种 subprocess 模块的封装
  • sh – 一个完备的 subprocess 替代库

并发和并行

用以进行并发和并行操作的库

  • multiprocessing – (Python 标准库) 基于进程的“线程”接口
  • threading – (Python 标准库)更高层的线程接口
  • eventlet – 支持 WSGI 的异步框架
  • gevent – 一个基于协程的 Python 网络库,使用greenlet
  • Tomorrow -用于产生异步代码的神奇的装饰器语法实现

网络

用于网络编程的库

  • asyncio – (Python 标准库) 异步 I/O, 事件循环, 协程以及任务
  • Twisted – 一个事件驱动的网络引擎
  • pulsar – 事件驱动的并发框架
  • diesel – 基于Greenlet 的事件 I/O 框架
  • pyzmq – 一个 ZeroMQ 消息库的 Python 封装
  • txZMQ – 基于 Twisted 的 ZeroMQ 消息库的 Python 封装

WebSocket

帮助使用WebSocket的库

  • AutobahnPython – 给 Python 、使用的 WebSocket & WAMP 基于 Twisted 和 asyncio
  • Crossbar – 开源统一应用路由(Websocket & WAMP for Python on Autobahn)
  • django-socketio – 给 Django 用的 WebSockets
  • WebSocket-for-Python – 为Python2/3 以及 PyPy 编写的 WebSocket 客户端和服务器库

WSGI 服务器

兼容 WSGI 的 web 服务器

  • gunicorn – Pre-forked, 部分是由 C 语言编写的
  • uwsgi – uwsgi 项目的目的是开发一组全栈工具,用来建立托管服务, 由 C 语言编写
  • bjoern – 异步,非常快速,由 C 语言编写
  • fapws3 – 异步 (仅对于网络端),由 C 语言编写
  • meinheld – 异步,部分是由 C 语言编写的
  • netius – 异步,非常快速
  • paste – 多线程,稳定,久经考验
  • rocket – 多线程
  • waitress – 多线程, 是它驱动着 Pyramid 框架
  • Werkzeug – 一个 WSGI 工具库,驱动着 Flask ,而且可以很方便大嵌入到你的项目中去

RPC 服务器

兼容 RPC 的服务器

  • SimpleJSONRPCServer – 这个库是 JSON-RPC 规范的一个实现
  • SimpleXMLRPCServer – (Python 标准库) 简单的 XML-RPC 服务器实现,单线程
  • zeroRPC – zerorpc 是一个灵活的 RPC 实现,基于 ZeroMQ 和 MessagePack

密码学

  • cryptography – 这个软件包意在提供密码学基本内容和方法提供给 Python 开发者
  • hashids – 在 Python 中实现 hashids
  • Paramiko – SSHv2 协议的 Python (2.6+, 3.3+) ,提供客户端和服务端的功能
  • Passlib – 安全密码存储/哈希库
  • PyCrypto – Python 密码学工具箱
  • PyNacl – 网络和密码学(NaCl) 库的 Python 绑定

图形用户界面

用来创建图形用户界面程序的库

  • curses – 内建的 ncurses 封装,用来创建终端图形用户界面
  • enaml – 使用类似 QML 的Declaratic语法来创建美观的用户界面
  • kivy – 一个用来创建自然用户交互(NUI)应用程序的库,可以运行在 Windows, Linux, Mac OS X, Android 以及 iOS平台上
  • pyglet – 一个Python 的跨平台窗口及多媒体库
  • PyQt – 跨平台用户界面框架 Qt 的 Python 绑定 ,支持Qt v4 和 Qt v5
  • PySide – P跨平台用户界面框架 Qt 的 Python 绑定 ,支持Qt v4
  • Tkinter – Tkinter 是 Python GUI 的一个事实标准库
  • Toga – 一个 Python 原生的, 操作系统原生的 GUI 工具包
  • urwid – 一个用来创建终端 GUI 应用的库,支持组件,事件和丰富的色彩等
  • wxPython – wxPython 是 wxWidgets C++ 类库和 Python 语言混合的产物
  • PyGObject – GLib/GObject/GIO/GTK+ (GTK+3) 的 Python 绑定
  • Flexx – Flexx 是一个纯 Python 语言编写的用来创建 GUI 程序的工具集,它使用 web 技术进行界面的展示

游戏开发

超赞的游戏开发库

  • Cocos2d – cocos2d 是一个用来开发 2D 游戏, 示例和其他图形/交互应用的框架.基于 pyglet
  • Panda3D – 由迪士尼开发的 3D 游戏引擎,并由卡内基梅陇娱乐技术中心负责维护.使用C++编写, 针对 Python 进行了完全的封装
  • Pygame – Pygame 是一组 Python 模块,用来编写游戏
  • PyOgre – Ogre 3D 渲染引擎的 Python 绑定,可以用来开发游戏和仿真程序等任何 3D 应用
  • PyOpenGL – OpenGL 的 Python 绑定及其相关 APIs
  • PySDL2 – SDL2 库的封装,基于 ctypes
  • RenPy – 一个视觉小说(visual novel)引擎

日志

用来生成和操作日志的库

  • logging – (Python 标准库) 为 Python 提供日志功能
  • logbook – Logging 库的替代品
  • Eliot – 为复杂的和分布式系统创建日志
  • Raven – Sentry的 Python 客户端
  • Sentry – 实时记录和收集日志的服务器

测试

进行代码库测试和生成测试数据的库

测试框架

  • unittest – (Python 标准库) 单元测试框架
  • nose – nose 扩展了 unittest 的功能
  • contexts – 一个 Python 3.3+ 的 BDD 框架.受到C# – Machine.Specifications的启发
  • hypothesis – Hypothesis 是一个基于先进的 Quickcheck 风格特性的测试库
  • mamba – Python 的终极测试工具, 拥护BDD
  • PyAutoGUI – PyAutoGUI 是一个人性化的跨平台 GUI 自动测试模块
  • pyshould- Should 风格的断言,基于 PyHamcrest
  • pytest- 一个成熟的全功能 Python 测试工具
  • green- 干净,多彩的测试工具
  • pyvows- BDD 风格的测试工具,受Vows.js的启发
  • Robot Framework – 一个通用的自动化测试框架

Web 测试

  • Selenium – Selenium WebDriver 的 Python 绑定
  • locust – 使用 Python 编写的,可扩展的用户加载测试工具
  • sixpack – 一个和语言无关的 A/B 测试框架
  • splinter – 开源的 web 应用测试工具

Mock测试

  • mock – (Python 标准库) 一个用于伪造测试的库
  • doublex – Python 的一个功能强大的 doubles 测试框架
  • freezegun – 通过伪造日期模块来生成不同的时间
  • httmock – 针对 Python 2.6+ 和 3.2+ 生成 伪造请求的库
  • httpretty – Python 的 HTTP 请求 mock 工具
  • responses – 伪造 Python 中的 requests 库的一个通用库
  • VCR.py – 在你的测试中记录和重放 HTTP 交互

对象工厂

  • factoryboy – 一个 Python 用的测试固件 (test fixtures) 替代库
  • mixer – 另外一个测试固件 (test fixtures) 替代库,支持 Django, Flask, SQLAlchemy, Peewee 等
  • modelmommy – 为 Django 测试创建随机固件

代码覆盖率

  • coverage – 代码覆盖率测量

伪数据

  • faker – 一个 Python 库,用来生成伪数据
  • fake2db – 伪数据库生成器
  • radar – 生成随机的日期/时间

错误处理

  • FuckIt.py – FuckIt.py 使用最先进的技术来保证你的 Python 代码无论对错都能继续运行

代码分析和Lint工具

进行代码分析,解析和操作代码库的库和工具

代码分析

  • code2flow – 把你的 Python 和 JavaScript 代码转换为流程图
  • pycallgraph -这个库可以把你的Python 应用的流程(调用图)进行可视化
  • pysonar2 – Python 类型推断和检索工具

Lint工具

  • Flake8 – 模块化源码检查工具: pep8, pyflakes 以及 co
  • Pylint – 一个完全可定制的源码分析器
  • pylama – Python 和 JavaScript 的代码审查工具

调试工具

  • 用来进行代码调试的库

调试器

  • ipdb – IPython 启用的 pdb
  • pudb – 全屏,基于控制台的 Python 调试器
  • pyringe – 可以在 Python 进程中附加和注入代码的调试器
  • wdb – 一个奇异的 web 调试器,通过 WebSockets 工作
  • winpdb – 一个具有图形用户界面的 Python 调试器,可以进行远程调试,基于 rpdb2
  • django-debug-toolbar – 为 Django 显示各种调试信息
  • django-devserver – 一个 Django 运行服务器的替代品
  • flask-debugtoolbar – django-debug-toolbar 的 flask 版

性能分析器

  • lineprofiler – 逐行性能分析
  • memoryprofiler – 监控 Python 代码的内存使用
  • profiling – 一个交互式 Python 性能分析工具

其他

  • pyelftools – 解析和分析 ELF 文件以及 DWARF 调试信息
  • python-statsd – statsd 服务器的 Python 客户端

科学技术和数据分析

用来进行科学计算和数据分析的库

  • astropy – 一个天文学 Python 库
  • bcbio-nextgen – 这个工具箱为全自动高通量测序分析提供符合最佳实践的处理流程
  • bccb – 生物分析相关代码集合
  • Biopython – Biopython 是一组可以免费使用的用来进行生物计算的工具
  • blaze – NumPy 和 Pandas 的大数据接口
  • cclib – 一个用来解析和解释计算化学软件包输出结果的库
  • NetworkX – 一个为复杂网络设计的高性能软件
  • Neupy – 执行和测试各种不同的人工神经网络算法
  • Numba – Python JIT (just in time) 编译器,针对科学用的 Python ,由Cython 和 NumPy 的开发者开发
  • NumPy – 使用 Python 进行科学计算的基础包
  • Open Babel – 一个化学工具箱,用来描述多种化学数据
  • Open Mining – 使用 Python 挖掘商业情报 (BI) (Pandas web 接口)
  • orange – 通过可视化编程或 Python 脚本进行数据挖掘,数据可视化,分析和机器学习
  • Pandas – 提供高性能,易用的数据结构和数据分析工具
  • PyDy – PyDy 是 Python Dynamics 的缩写,用来为动力学运动建模工作流程提供帮助, 基于 NumPy, SciPy, IPython 和 matplotlib
  • PyMC – 马尔科夫链蒙特卡洛采样工具
  • RDKit – 化学信息学和机器学习软件
  • SciPy – 由一些基于 Python ,用于数学,科学和工程的开源软件构成的生态系统
  • statsmodels – 统计建模和计量经济学
  • SymPy – 一个用于符号数学的 Python 库
  • zipline – 一个 Python 算法交易库

数据可视化

进行数据可视化的库. 参见: awesome-javascript

  • matplotlib – 一个 Python 2D 绘图库
  • bokeh – 用 Python 进行交互式 web 绘图
  • ggplot – ggplot2 给 R 提供的 API 的 Python 版本
  • plotly – 协同 Python 和 matplotlib 工作的 web 绘图库
  • pygal – 一个 Python SVG 图表创建工具
  • pygraphviz – Graphviz 的 Python 接口
  • PyQtGraph – 交互式实时2D/3D/图像绘制及科学/工程学组件
  • SnakeViz – 一个基于浏览器的 Python’s cProfile 模块输出结果查看工具
  • vincent – 把 Python 转换为 Vega 语法的转换工具
  • VisPy – 基于 OpenGL 的高性能科学可视化工具

计算机视觉

计算机视觉库

  • OpenCV – 开源计算机视觉库.
  • SimpleCV – 一个用来创建计算机视觉应用的开源框架

机器学习

机器学习库. 参见: awesome-machine-learning

  • Crab – 灵活、快速的推荐引擎
  • gensim – 人性化的话题建模库
  • hebel – GPU 加速的深度学习库
  • NuPIC – 智能计算 Numenta 平台
  • pattern – Python 网络挖掘模块
  • PyBrain – 另一个 Python 机器学习库
  • Pylearn2 – 一个基于 Theano 的机器学习库
  • python-recsys – 一个用来实现推荐系统的 Python 库
  • scikit-learn – 基于 SciPy 构建的机器学习 Python 模块
  • pydeep – Python 深度学习库
  • vowpalporpoise – 轻量级 Vowpal Wabbit 的 Python 封装
  • skflow – 一个 TensorFlow 的简化接口(模仿 scikit-learn)

MapReduce

MapReduce 框架和库

  • dpark – Spark 的 Python 克隆版,一个类似 MapReduce 的框架
  • dumbo – 这个 Python 模块可以让人轻松的编写和运行 Hadoop 程序
  • luigi – 这个模块帮你构建批处理作业的复杂流水线
  • mrjob – 在 Hadoop 或 Amazon Web Services 上运行 MapReduce 任务
  • PySpark – Spark 的 Python API
  • streamparse – 运行针对事实数据流的 Python 代码.集成了Apache Storm

函数式编程

使用 Python 进行函数式编程

  • CyToolz – Toolz 的 Cython 实现 : 高性能函数式工具
  • fn.py – 在 Python 中进行函数式编程 : 实现了一些享受函数式编程缺失的功能
  • funcy – 炫酷又实用的函数式工具
  • Toolz – 一组用于迭代器,函数和字典的函数式编程工具

第三方 API

用来访问第三方 API的库. 参见: List of Python API Wrappers and Libraries

  • apache-libcloud – 一个为各种云设计的 Python 库
  • boto – Amazon Web Services 的 Python 接口
  • django-wordpress – WordPress models and views for Django
  • facebook-sdk – Facebook 平台的 Python SDK
  • facepy – Facepy 让和 Facebook’s Graph API 的交互变得更容易
  • gmail – Gmail 的 Python 接口
  • google-api-python-client – Python 用的 Google APIs 客户端库
  • gspread – Google 电子表格的 Python API
  • twython – Twitter API 的封装

DevOps 工具

用于 DevOps 的软件和库

  • Ansible – 一个非常简单的 IT 自动化平台
  • SaltStack – 基础设施自动化和管理系统
  • OpenStack – 用于构建私有和公有云的开源软件
  • Docker Compose – 快速,分离的开发环境,使用 Docker
  • Fabric – 一个简单的,Python 风格的工具,用来进行远程执行和部署
  • cuisine – 为 Fabric 提供一系列高级函数
  • Fabtools – 一个用来编写超赞的 Fabric 文件的工具
  • gitapi – Git 的纯 Python API
  • hgapi – Mercurial 的纯 Python API
  • honcho – Foreman的 Python 克隆版,用来管理基于Procfile的应用
  • pexpect – Controlling interactive programs in a pseudo-terminal like 在一个伪终端中控制交互程序,就像 GNU expect 一样
  • psutil – 一个跨平台进程和系统工具模块
  • supervisor – UNIX 的进程控制系统

任务调度

任务调度库

  • APScheduler – 轻巧但强大的进程内任务调度,使你可以调度函数
  • django-schedule – 一个 Django 排程应用
  • doit – 一个任务执行和构建工具
  • gunnery – 分布式系统使用的多用途任务执行工具 ,具有 web 交互界面
  • Joblib – 一组为 Python 提供轻量级作业流水线的工具
  • Plan – 如有神助地编写 crontab 文件
  • schedule – 人性化的 Python 任务调度库
  • Spiff – 使用纯 Python 实现的强大的工作流引擎
  • TaskFlow – 一个可以让你方便执行任务的 Python 库,一致并且可靠

外来函数接口

使用外来函数接口的库

  • cffi – 用来调用 C 代码的外来函数接口
  • ctypes – (Python 标准库) 用来调用 C 代码的外来函数接口
  • PyCUDA – Nvidia CUDA API 的封装
  • SWIG – 简化的封装和接口生成器

高性能

让 Python 更快的库

  • Cython – 优化的 Python 静态编译器.使用类型混合使 Python 编译成 C 或 C++ 模块来获得性能的极大提升
  • PeachPy – 嵌入 Python 的 x86-64 汇编器.可以被用作 Python 内联的汇编器或者是独立的汇编器,用于 Windows, Linux, OS X, Native Client 或者 Go
  • PyPy – 使用 Python 实现的 Python.解释器使用黑魔法加快 Python 运行速度且不需要加入额外的类型信息
  • Pyston – 使用 LLVM 和现代 JIT 技术构建的 Python 实现,目标是为了获得很好的性能
  • Stackless Python – 一个强化版的 Python

微软的 Windows平台

在 Windows 平台上进行 Python 编程

  • Python(x,y) – 面向科学应用的 Python 发行版,基于 Qt 和 Spyder
  • pythonlibs – 非官方的 Windows 平台 Python 扩展二进制包
  • PythonNet – Python 与 .NET 公共语言运行库 (CLR)的集成
  • PyWin32 – 针对 Windows 的Python 扩展
  • WinPython – Windows 7/8 系统下便携式开发环境

网络可视化和SDN

用来进行网络可视化和SDN(软件定义网络)的工具和库

  • Mininet – 一款流行的网络模拟器以及用 Python 编写的 API
  • POX – 一个针对基于 Python 的软件定义网络应用(例如 OpenFlow SDN 控制器)的开源开发平台
  • Pyretic – 火热的 SDN 编程语言中的一员,为网络交换机和模拟器提供强大的抽象能力
  • SDX Platform – 基于 SDN 的 IXP 实现,影响了 Mininet, POX 和 Pyretic

硬件

用来对硬件进行编程的库

  • ino -操作Arduino的命令行工具
  • Pyro – Python 机器人编程库
  • PyUserInput – 跨平台的,控制鼠标和键盘的模块
  • scapy – 一个非常棒的操作数据包的库
  • wifi – 一个 Python 库和命令行工具用来在 Linux 平台上操作WiFi
  • Pingo – Pingo 为类似Raspberry Pi,pcDuino, Intel Galileo等设备提供统一的API用以编程

兼容性

帮助从 Python 2 向 Python 3迁移的库

  • Python-Future – 这就是 Python 2 和 Python 3 之间丢失的那个兼容性层
  • Python-Modernize – 使 Python 代码更加现代化以便最终迁移到 Python 3
  • Six – Python 2 和 3 的兼容性工具

杂项

不属于上面任何一个类别,但是非常有用的库

  • blinker – 一个快速的 Python 进程内信号/事件分发系统
  • itsdangerous – 一系列辅助工具用来将可信的数据传入不可信的环境
  • pluginbase – 一个简单但是非常灵活的 Python 插件系统
  • Pychievements – 一个用来创建和追踪成就的 Python 框架
  • Tryton – 一个通用商务框架

算法和设计模式

Python 实现的算法和设计模式

  • algorithms -一个 Python 算法模块
  • python-patterns – Python 设计模式的集合
  • sortedcontainers – 快速,纯 Python 实现的SortedList,SortedDict 和 SortedSet 类型

编辑器插件

编辑器和 IDE 的插件

Emacs

  • Elpy – Emacs Python 开发环境
  • Sublime Text
  • SublimeJEDI – 一个 Sublime Text 插件,用来使用超赞的自动补全库 Jedi
  • Anaconda – Anaconda 把你的 Sublime Text 3 变成一个功能齐全的 Python IDE

Vim

  • YouCompleteMe – 引入基于 Jedi 的 Python 自动补全引擎
  • Jedi-vim – 绑定 Vim 和 Jedi 自动补全库对 Python 进行自动补全
  • Python-mode – 将 Vim 变成 Python IDE 的一款多合一插件

Visual Studio

  • PTVS – Visual Studio 的 Python 工具

集成开发环境

流行的 Python 集成开发环境

  • PyCharm – 商业化的 Python IDE ,由 JetBrains 开发.也有免费的社区版提供
  • LiClipse – 基于 Eclipse 的免费多语言 IDE .使用 PyDev 来支持 Python
  • Spyder – 开源 Python IDE.

服务

在线工具和简化开发的 API

持续集成

参见: awesome-CIandCD

  • Travis CI – 一个流行的工具,为你的开源和私人项目提供持续集成服务.(仅支持 GitHub)
  • CircleCI – 一个持续集成工具,可以非常快速的进行并行测试. (仅支持 GitHub)
  • Vexor CI – 一个为私人 app 提供持续集成的工具,支持按分钟付费
  • Wercker – 基于 Docker 平台,用来构建和部署微服务

代码质量

  • Codacy – 自动化代码审查,更加快速的发布高质量代码.对于开源项目是免费的
  • QuantifiedCode – 一个数据驱动、自动、持续的代码审查工具

资源

在这里可以找到新的 Python 库

网站

  • r/Python
  • CoolGithubProjects
  • Django Packages
  • Full Stack Python
  • Python 3 Wall of Superpowers
  • Python Hackers
  • Python ZEEF
  • Trending Python repositories on GitHub today
  • PyPI Ranking

周刊

  • Import Python Newsletter
  • Pycoder’s Weekly
  • Python Weekly

Twitter

  • @codetengu
  • @getpy
  • @planetpython
  • @pycoders
  • @pypi
  • @pythontrending
  • @PythonWeekly
12…4

Franklin Chen

Little drops of water make an ocean

10 posts
3 categories
23 tags
© 2021 Franklin Chen