编译:Python开发者 - Jake_on 英文:Quora
http://python.jobbole.com/85986/
有网友在 Quora 上提问,「你用 Python 写过最牛逼的程序/脚本是什么?」。本文摘编了 3 个国外程序员的多个小项目,含代码。
[h1]Manoj Memana Jayakumar, 3000+ 顶[/h1]更新:凭借这些脚本,我找到了工作!可看我在这个帖子中的回复,《Has anyone got a job through Quora? Or somehow made lots of money through Quora?》
[h2]1. 电影/电视剧 字幕一键下载器[/h2]我们经常会遇到这样的情景,就是打开字幕网站subscene 或者opensubtitles, 搜索电影或电视剧的名字,然后选择正确的抓取器,下载字幕文件,解压,剪切并粘贴到电影所在的文件夹,并且需把字幕文件重命名以匹配电影文件的名字。是不是觉得太无趣呢?对了,我之前写了一个脚本,用来下载正确的电影或电视剧字幕文件,并且存储到与电影文件所在位置。所有的操作步骤仅需一键就可以完成。懵逼了吗?
请看这个 Youtube 视频:https://youtu.be/Q5YWEqgw9X8
源代码存放在GitHub:subtitle-downloader
更新:目前,该脚本支持多个字幕文件同时下载。步骤:按住 Ctrl ,选择你想要为其下载字幕的多个文件 , 最后执行脚本即可
[h2]2. IMDb 查询/电子表格生成器[/h2]我是一个电影迷,喜欢看电影。我总是会为该看哪一部电影而困惑,因为我搜集了大量的电影。所以,我应该如何做才能消除这种困惑,选择一部今晚看的电影?没错,就是IMDb。我打开 http://imdb.com,输入电影的名字,看排名,阅读和评论,找出一部值得看的电影。
但是,我有太多电影了。谁会想要在搜索框输入所有的电影的名字呢?我肯定不会这样做,尤其是我相信“如果某些东西是重复性的,那么它应该是可以自动化的”。因此,我写了一个 python 脚本, 目的是为了使用 非官方的 IMDb API 来获取数据。我选择一个电影文件(文件夹),点击右键,选择‘发送到’,然后 点击 IMDB.cmd (顺便提一下,IMDB.cmd 这个文件就是我写的 python 脚本),就是这样。
我的浏览器会打开这部电影在IMDb网站上的准确页面。
仅仅只需点击一个按键,就可以完成如上操作。如果你不能够了解这个脚本到底有多酷,以及它可以为你节省多少时间,请看这个 Youtube 视频:https://youtu.be/JANNcimQGyk
从现在开始,你再也不需要打开你的浏览器,等待加载IMDb的页面,键入电影的名字。这个脚本会帮你完成所有的操作。跟往常一样,源代码放在了GitHub:imdb ,并且附有操作说明。当然,由于这个脚本必须去掉文件或文件夹中的无意义的字符,比如“DVDRip, YIFY, BRrip”等,所以在运行脚本的时候会有一定比例的错误。但是经过测试,这个脚本在我几乎所有的电影文件上都运行的很好。
2014-04-01更新:
许多人在问我是否可以写一个脚本,可以发现一个文件夹中所有电影的详细信息,因为每一次只能发现一个电影的详细信息是非常麻烦的。我已经更新了这个脚本,支持处理整个文件夹。脚本会分析这个文件夹里的所有子文件夹,从 IMDb上抓取所有电影的详细信息 ,然后打开一个电子表格,根据IMDb 上的排名,从高到低降序排列所有的电影。这个表格中包含了 (所有电影)在 IMDb URL, 年份,情节,分类,获奖信息,演员信息,以及其他的你可能在 IMBb找到的信息。下面是脚本执行后,生成的表格范例:
Your very own personal IMDb database! What more can a movie buff ask for? ;)
Source on GitHub: imdb
你也可以有一个个人 IMDb 数据库!一个电影爱好者还能够要求更多吗?:)
源代码在 GitHub:imdb
[h2]3. theoatmeal.com 连载漫画下载器[/h2]
我个人超级喜欢 Matthew Inman 的漫画。它们在疯狂搞笑的同时,却又发人深省。但是,我很厌烦重复点击下一个,然后才能阅读每一个漫画。另外,由于每一个漫画都由多福图片组成,所以手动下载这些漫画是非常困难的。
基于如上原因,我写了一个 python 脚本 ,用来从这个站点下载所有的漫画。这个脚本利用 BeautifulSoup (http://www.crummy.com/software/B… ) 解析 HTML 数据, 所以在运行脚本前,必须安装 BeautifulSoup。用于下载燕麦片(马修.英曼的一部漫画作品)的下载器已经上传到GitHub:theoatmeal.com-downloader 。(漫画)下载完后的文件夹是这样的 :D
4. someecards.com 下载器
成功地从http://www.theoatmeal.com 下载了整部漫画后,我在想是否我可以做同样的事情 , 从另一个我喜欢的站点— 搞笑的,唯一的http://www.someecards.com . 下载一些东西呢?
somececards 的问题是,图片命名是完全随机的,所有图片的排放没有特定的顺序,并且一共有52 个大的类别, 每一个类别都有数以千计的图片。
我知道,如果我的脚本是多线程的话,那将是非常完美的,因为有大量的数据需要解析和下载,因此我给每一个类别中的每一页都分配一个线程。这个脚本会从网站的每一个单独的分类下载搞笑的电子贺卡,并且把每一个放到单独的文件夹。现在,我拥有这个星球上最好笑的电子贺卡私人收藏。下载完成后,我的文件夹是这样的:
没错,我的私人收藏总共包括:52个类别,5036个电子贺卡。源代码在这里:someecards.com-downloader
编辑:很多人问我是否可以共享我下载的所有文件,(在这里,我要说)由于我的网络不太稳定,我没办法把我的收藏上传到网络硬盘,但是我已经上传一个种子文件,你们可以在这里下载:somecards.com Site Rip torrent
种下种子,传播爱:)
[h1]Akshit Khurana,4400+ 顶[/h1][h2]感谢 500 多个朋友在 Facebook 上为我送出的生日祝福[/h2]有三个故事让我的21岁生日变的难忘,这是最后一个故事。我倾向于在每一条祝福下亲自评论,但是使用 python 来做更好。- 1… 2 31. # Thanking everyone who wished me on my birthday 4 52. import requests 6 73. import json 8 94.10115. # Aman s post time12136. AFTER = 135323375414157. TOKEN = 16178.18199. def get_posts():202110. """Returns dictionary of id, first names of people who posted on my wall222311. between start and end time"""242512. query = ("SELECT post_id, actor_id, message FROM stream WHERE "262713. "filter_key = others AND source_id = me() AND "282914. "created_time > 1353233754 LIMIT 200")303115.323316. payload = { q : query, access_token : TOKEN}343517. r = requests.get( https://graph.facebook.com/fql , params=payload)363718. result = json.loads(r.text)383919. return result[ data ]404120.424321. def commentall(wallposts):444522. """Comments thank you on all posts"""464723. #TODO convert to batch request later484924. for wallpost in wallposts:505125.525326. r = requests.get( https://graph.facebook.com/%s %545527. wallpost[ actor_id ])565728. url = https://graph.facebook.com/%s/comments % wallpost[ post_id ]585929. user = json.loads(r.text)606130. message = Thanks %s :) % user[ first_name ]626331. payload = { access_token : TOKEN, message : message}646532. s = requests.post(url, data=payload)666733.686934. print "Wall post %s done" % wallpost[ post_id ]707135.727336. if __name__ == __main__ :747537. commentall(get_posts())7677…
复制代码 为了能够顺利运行脚本,你需要从Graph API Explorer(需适当权限)获得 token。本脚本假设特定时间戳之后的所有帖子都是生日祝福。
尽管对评论功能做了一点改变,我仍然喜欢每一个帖子。
当我的点赞数,评论数以及评论结构在 ticker(Facebook一项功能,朋友可以看到另一个朋友在做什么,比如点赞,听歌,看电影等) 中爆涨后,我的一个朋友很快发现此事必有蹊跷。
尽管这个不是我最满意的脚本,但是它简单,快捷,有趣。
当我和 Sandesh Agrawal 在网络实验室讨论时,有了写这个脚本的想法。为此,Sandesh Agrawal 耽搁了实验室作业,深表感谢。
[h1]Tanmay Kulshrestha,3300+ 顶[/h1]好了,在我失去这个项目之前(一个猪一样的朋友格式化了我的硬盘,我的所有代码都在那个硬盘上)或者说,在我忘记这些代码之前,我决定来回答这个问题。
[h2]整理照片[/h2]当我对图像处理感兴趣之后,我一直致力于研究机器学习。我写这个有趣的脚本,目的是为了分类图片,很像 Facebook 做的那样(当然这是一个不够精确的算法)。我使用了 OpenCV 的人脸检测算法,“haarcascade_frontalface_default.xml”,它可以从一张照片中检测到人脸。
你可能已经察觉到这张照片的某些地方被错误地识别为人脸。我试图通过修改一些参数(来修正这一问题),但还是某些地方被错误地识别为人脸,这是由相机的相对距离导致的。我会在下一阶段解决这一问题(训练步骤)。
这个训练算法需要一些训练素材,每个人需要至少需要100-120个训练素材(当然多多益善)。我太懒了,并没有为每一个人挑选照片,并把它们复制粘帖到训练文件夹。所以,你可能已经猜到,这个脚本会打开一个图片,识别人脸,并显示每一个人脸(脚本会根据处于当前节点的训练素材给每一个人脸预测一个名字)。伴随着每次你标记的照片,Recognizer 会被更新,并且还会包含上一次的训练素材。在训练过程中,你可以增加新的名字。我使用 python 库 tkinter 做了一个 GUI。因此,大多数时候,你必须初始化一小部分照片(给照片中的人脸命名),其他的工作都可以交给训练算法。因此,我训练了 Recognizer ,然后让它(Recognizer)去处理所有的图片。
我使用图片中包含的人的人名来命名图片,(例如:Tanmay&*****&*****)。因此,我可以遍历整个文件夹,然后可以通过输入人名的方法来搜索图片。
初始状态下,当一个人脸还没有训练素材时(素材库中还没有包括这个人脸的名字),需要询问他/她的名字。
我可以增加一个名字,像这个样子:
当训练了几个素材后,它会像这个样子:
最后一个是针对应对那些垃圾随机方块而使用的变通解决方案。
带名字的最终文件夹。
所以,现在寻找图片变得相当简单。顺便提一下,很抱歉(我)放大了这些照片。- 1import cv2 2 3import sys 4 5import os,random,string 6 7#choices=[ Add a name ] 8 9import os 10 11current_directory=os.path.dirname(os.path.abspath(__file__)) 12 13from Tkinter import Tk 14 15from easygui import * 16 17import numpy as np 18 19x= os.listdir(current_directory) 20 21new_x=[] 22 23testing=[] 24 25for i in x: 26 27if i.find( . )==-1: 28 29new_x+=[i] 30 31else: 32 33testing+=[i] 34 35x=new_x 36 37g=x 38 39choices=[ Add a name ]+x 40 41y= range(1,len(x)+1) 42 43def get_images_and_labels(): 44 45global current_directory,x,y,g 46 47if x==[]: 48 49return (False,False) 50 51image_paths=[] 52 53for i in g: 54 55path=current_directory+ +i 56 57for filename in os.listdir(path): 58 59final_path=path+ +filename 60 61image_paths+=[final_path] 62 63# images will contains face images 64 65images = [] 66 67# labels will contains the label that is assigned to the image 68 69labels = [] 70 71for image_path in image_paths: 72 73# Read the image and convert to grayscale 74 75img = cv2.imread(image_path,0) 76 77# Convert the image format into numpy array 78 79image = np.array(img, uint8 ) 80 81# Get the label of the image 82 83backslash=image_path.rindex( ) 84 85underscore=image_path.index( _ ,backslash) 86 87nbr = image_path[backslash+1:underscore] 88 89t=g.index(nbr) 90 91nbr=y[t] 92 93# If face is detected, append the face to images and the label to labels 94 95images.append(image) 96 97labels.append(nbr) 98 99#cv2.imshow("Adding faces to traning set...", image)100101#cv2.waitKey(50)102103# return the images list and labels list104105return images, labels106107# Perform the tranining108109def train_recognizer():110111recognizer = cv2.createLBPHFaceRecognizer()112113images, labels = get_images_and_labels()114115if images==False:116117return False118119cv2.destroyAllWindows()120121recognizer.train(images, np.array(labels))122123return recognizer124125def get_name(image_path,recognizer):126127global x,choices128129#if recognizer== :130131# recognizer=train_recognizer()132133cascadePath = "haarcascade_frontalface_default.xml"134135faceCascade = cv2.CascadeClassifier(cascadePath)136137#recognizer=train_recognizer()138139x1=testing140141global g142143print image_path144145image = cv2.imread(image_path)146147img = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)148149predict_image = np.array(img, uint8 )150151faces = faceCascade.detectMultiScale(152153img,154155scaleFactor=1.3,156157minNeighbors=5,158159minSize=(30, 30),160161flags = http://cv2.cv.CV_HAAR_SCALE_IMAGE162163)164165for (x, y, w, h) in faces:166167f= image[y:y+w,x:x+h]168169cv2.imwrite( temp.jpg ,f)170171im= temp.jpg172173nbr_predicted, conf = recognizer.predict(predict_image[y: y + h, x: x + w])174175predicted_name=g[nbr_predicted-1]176177print "{} is Correctly Recognized with confidence {}".format(predicted_name, conf)178179if conf>=140:180181continue182183msg= Is this +predicted_name184185reply = buttonbox(msg, image=im, choices=[ Yes , No ])186187if reply== Yes :188189reply=predicted_name190191directory=current_directory+ +reply192193if not os.path.exists(directory):194195os.makedirs(directory)196197random_name= .join(random.choice(string.ascii_uppercase + string.digits) for _ in range(7))198199path=directory+ +random_name+ .jpg200201cv2.imwrite(path,f)202203else:204205msg = "Who is this?"206207reply = buttonbox(msg, image=im, choices=choices)208209if reply == Add a name :210211name=enterbox(msg= Enter the name , title= Training , strip=True)212213print name214215choices+=[name]216217reply=name218219directory=current_directory+ +reply220221if not os.path.exists(directory):222223os.makedirs(directory)224225random_name= .join(random.choice(string.ascii_uppercase + string.digits) for _ in range(7))226227path=directory+ +random_name+ .jpg228229print path230231cv2.imwrite(path,f)232233234235# calculate window position236237root = Tk()238239pos = int(root.winfo_screenwidth() * 0.5), int(root.winfo_screenheight() * 0.2)240241root.withdraw()242243WindowPosition = "+%d+%d" % pos244245246247# patch rootWindowPosition248249rootWindowPosition = WindowPosition250251def detect_faces(img):252253global choices,current_directory254255imagePath = img256257faceCascade = cv2.CascadeClassifier(cascPath)258259image = cv2.imread(imagePath)260261gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)262263faces = faceCascade.detectMultiScale(264265gray,266267scaleFactor=1.3,268269minNeighbors=5,270271minSize=(30, 30),272273flags = http://cv2.cv.CV_HAAR_SCALE_IMAGE274275)276277278279print "Found {0} faces!".format(len(faces))280281m=0282283for (x, y, w, h) in faces:284285m+=1286287padding=0288289f= image[y-padding:y+w+padding,x-padding:x+h+padding]290291cv2.imwrite( temp.jpg ,f)292293im= temp.jpg294295msg = "Who is this?"296297reply = buttonbox(msg, image=im, choices=choices)298299if reply == Add a name :300301name=enterbox(msg= Enter the name , title= Training , strip=True)302303print name304305choices+=[name]306307reply=name308309directory=current_directory+ +reply310311if not os.path.exists(directory):312313os.makedirs(directory)314315random_name= .join(random.choice(string.ascii_uppercase + string.digits) for _ in range(7))316317path=directory+ +random_name+ .jpg318319print path320321cv2.imwrite(path,f)322323def new(img,recognizer):324325imagePath = current_directory+ +img326327print imagePath328329get_name(imagePath,recognizer)330331cascPath = haarcascade_frontalface_default.xml332333b=0334335os.system("change_name.py")336337for filename in os.listdir("."):338339b+=1340341if b%10==0 or b==1:342343os.system("change_name.py")344345recognizer=train_recognizer()346347if filename.endswith( .jpg ) or filename.endswith( .png ):348349print filename350351imagePath=filename352353#detect_faces(imagePath)354355new(imagePath,recognizer)356357os.remove(filename)358359raw_input( Done with this photograph )
复制代码 我想进一步修改它的搜索功能,其中会包含更多的搜索类型,比如基于地理位置,微笑的脸,伤心的脸等等。(这样我就可以在 Skylawns 上 搜索快乐的 Tanmay & 沮丧的 Akshay & 快乐的…)
我还写了很多脚本,但那都是很久之前的事情了,我也懒得再去检查这些代码了,我会列出部分代码。
GitHub 链接:tanmay2893/Image-Sorting
[h2]Gmail 邮件通知[/h2]在那段时间,我没有智能手机。导致我常常错过来自于我所在的研究所的邮件(在我的研究所的邮件 ID),我写了一个脚本,可以在我的笔记本上运行,而且能给我的手机发信息。我使用 python 的 IMAP 库来获取邮件。我可以输入一些重要的人的名字,这样一来,当这些人给我发了邮件后,我可以收到短信通知。对于短信, 我使用了 way2sms.com(写了一个 python 脚本,自动登陆我的账户,然后发送 短信)。
[h2]PNR(Passenger Name Record旅客订座记录,下同) 状态短讯[/h2]铁路方面不经常发送 PNR 状态消息。因此,我写了一个脚本,可以从印度铁路网站获取 PNR 状态。这是非常容易的,因为那个网站没有验证码,即使有,也只是形同虚设的验证码(在过去,一些字母会被写在看起来像图片一样的东西上面,因为他们为这些字母使用了一个 “check” 的背景图)。我们可以轻松地从 HTML 网页得到这些字母。我不明白他们这样做的目的是什么,难道仅仅是为了愚弄他们自己吗?不管怎么样,我使用短信息脚本来处理它,经过一段时间间隔,它会在我的笔记本上运行一次,就像是一个定时任务,只要 PNR 状态有更新,它就会把更新信息发送给我。
[h2]YouTube 视频下载器[/h2]这个脚本会从 Youtube 页面下载所有的 Youtube 视频 以及他们所有的字幕文件(从Download and save subtitles 下载)。为了使下载速度更快一点,我使用了多线程。还有一个功能是,即使你的电脑重启了,仍然可以暂停和恢复播放下载的(视频)。我原本想做一个UI的,但是我太懒了… 一旦我的下载任务完成,我就不去关心 UI 的事情了。
[h2]板球比分通知器[/h2]我猜想这个功能已经在别的地方提到过了。一个窗口通知器。(在右下角的通知区域,它会告诉你实时比分以及评论信息)。如果你愿意的化,在某些时间段,你也可以关掉它。
[h2]WhatsApp 消息[/h2]这个并不太实用,我只是写着玩玩。因为 Whatsapp 有网页版,我使用 selenium 和 Python 下载我的所有联系人的显示图片,并且,一旦有人更新了他们的显示图片,我将会知道。(如何做到的?非常简单,在设定好时间间隔后,我会一遍又一遍的不停下载所有的头像信息,一旦照片的尺寸发生变化,我将会知道他/她更新了显示图片)。然后我会给他/她发一个信息,不错的头像。我仅仅使用了一次来测试它的可用性。
[h2]Nalanda 下载器[/h2]我们一般在这个叫 ‘Nalanda’ 的网站上下载一些教学课件以及其他的课程资料, ‘Nalanda’ 在 BITS Pilani (Nalanda). 我自己懒得在考试前一天下载所有的课件,所以,我写了这个这个下载器,它可以把每一门科的课件下载到相应的文件夹。
代码:- 1import mechanize,os,urllib2,urllib,requests,getpass,time 2 3start_time = time.time() 4 5from bs4 import BeautifulSoup 6 7br=mechanize.Browser() 8 9br.open( https://nalanda.bits-pilani.ac.in/login/index.php ) 10 11br.select_form(nr=0) 12 13 14 15name= 16 17while name== : 18 19 try: 20 21 print ******* 22 23 username=raw_input( Enter Your Nalanda Username: ) 24 25 password=getpass.getpass( Password: ) 26 27 br.form[ username ]=username 28 29 br.form[ password ]=password 30 31 res=br.submit() 32 33 response=res.read() 34 35 soup=BeautifulSoup(response) 36 37 name=str(soup.find( div ,attrs={ class : logininfo }).a.string)[:-2] 38 39 except: 40 41 print Wrong Password 42 43f=open( details.txt , w ) 44 45f.write(username+ n +password) 46 47f.close() 48 49print Welcome, +name 50 51print All the files will be downloaded in your Drive C in a folder named "nalanda" 52 53#print soup.prettify() 54 55div=soup.find_all( div ,attrs={ class : box coursebox }) 56 57 58l=len(div) 59 60a=[] 61 62for i in range(l): 63 64 d=div[i] 65 66 s=str(d.div.h2.a.string) 67 68 s=s[:s.find( ( )] 69 70 c=(s,str(d.div.h2.a[ href ])) 71 72 path= c:nalanda +c[0] 73 74 if not os.path.exists(path): 75 76 os.makedirs(path) 77 78 a+=[c] 79 80#print a 81 82overall=[] 83 84for i in range(l): 85 86 response=br.open(a[i][1]) 87 88 page=response.read() 89 90 soup=BeautifulSoup(page) 91 92 li=soup.find_all( li ,attrs={ class : section main clearfix }) 93 94 x=len(li) 95 96 t=[] 97 98 folder=a[i][0] 99100 print Downloading +folder+ files...101102 o=[]103104 for j in range(x):105106 g=li[j].ul107108 #print g109110 #raw_input( )111112 if g!=None:113114 temp=http://g.li[ class ].split( )115116 #raw_input( )117118 if temp[1]== resource :119120 #print yes121122 #print ********************123124 o+=[j]125126 h=li[j].find( div ,attrs={ class : content })127128 s=str(h.h3.string)129130 path= c:nalanda +folder131132 if path[-1]== :133134 path=path[:-1]135136 path+= +s137138 if not os.path.exists(path):139140 os.makedirs(path)141142 f=g.find_all( li )143144 r=len(f)145146 z=[]147148 for e in range(r):149150 p=f[e].div.div.a151152 q=f[e].find( span ,attrs={ class : resourcelinkdetails }).contents153154 link=str(p[ href ])155156 text=str(p.find( span ).contents[0])157158 typ= 159160 if str(q[0]).find( word )!=-1:161162 typ= .docx163164 elif str(q[0]).find( JPEG )!=-1:165166 typ= .jpg167168 else:169170 typ= .pdf171172 if typ!= .docx :173174 res=br.open(link)175176 soup=BeautifulSoup(res.read())177178 if typ== .jpg :179180 di=soup.find( div ,attrs={ class : resourcecontent resourceimg })181182 link=di.img[ src ]183184 else:185186 di=soup.find( div ,attrs={ class : resourcecontent resourcepdf })187188 link=di.object[ data ]189190 try:191192 if not os.path.exists(path+ +text+typ):193194 br.retrieve(link,path+ +text+typ)[0]195196 except:197198 print Connectivity Issues199200 z+=[(link,text,typ)]201202 t+=[(s,z)]203204 if t==[]:205206 print No Documents in this subject207208 overall+=[o]209210 #raw_input( Press any button to resume )211212#print overall213214print Time Taken to Download: +str(time.time()-start_time)+ seconds215216print Do you think you can download all files faster than this :P217218print Closing in 10 seconds219220time.sleep(10)
复制代码 [h2]我自己的 DC++[/h2]这个脚本并不是很有用,目前只有一些学生在用它, 况且,DC ++ 已经提供了一些很酷的功能。我原本可以优化我自己的版本,但是,由于我们已经有了DC ++,我并没有这么做,尽管我已经使用 nodeJS 和 python 写了一个基础版本。
工作原理:
打开 DC++ , 进入一个中心站点,然后连接,我写了一个 python 脚本来做这件事。脚本会在 PC上创建一个服务器(可以通过修改 SimpleHTTPRequestHandler 来完成)。
在服务器端(使用了NodeJS),它会拿到 PC 的连接,共享给其他的用户。
关注扫描下方二维码
|
|