废话少说
从速卖通抓取了一些评论想进行一些简单的文本分析，但是因为速卖通是一个跨境电商平台，上边的评论基本都是小语种，对，小语种，俄语，法语...英语还可以勉强应付一下，但是其他真的是一个字母都不认识啊，所以我就想能不能用python解决这个问题。
知名的翻译(我听说的)就是谷歌，百度，有道，有道翻译英语还行，小语种效果太差了，直接放弃，经过对比百度和谷歌，准确率上还是谷歌更准确一点，毕竟谷歌搜索是全世界的人为其提供训练语料，而百度基本只有中国人在用。
但是，良心百度提供了翻译API接口,而谷歌没有，哎没办法，只能爬了...
正文
首先用chrome打开谷歌搜翻译，看看它是怎么请求数据的
右键 检查 进入开发者工具
选择network,如图
image.png
先点击一下这个clear,把原来的请求都clear(当然是视觉上clear)
image.png
输入测试翻译内容
image.png
我们很快得到了翻译结果，同时得到了下面几个新的请求，那么返回的结果肯定在下面这几个请求，因为之前已经clear掉了，所以新的请求并不多（测试前，先clear,这个技巧很重要，特别是对于那种电商网站，请求分分钟几十上百，你不先clear掉的话，要找到猴年马月）
我们很快就可以发现是下面这个请求返回了翻译结果
image.png
image.png
通过请求头信息，可以发现是get请求，请求翻译的内容是通过q这个参数传递的，其它参数暂时不知道什么意思。然后，我们就可以用requests库模仿这个请求，看看能否成功。import requestsres=requests.get('/translate_a/single?client=t&sl=auto&tl=zh-CN&hl=zh-CN&dt=at&dt=bd&dt=ex&dt=ld&dt=md&dt=qca&dt=rw&dt=rm&dt=ss&dt=t&ie=UTF-8&oe=UTF-8&otf=1&ssel=0&tsel=0&kc=7&tk=272537.149261&q=oh%20shit')print(res.text)
image.png
直接成功，谷歌翻译这么好爬的嘛？感觉不靠谱，把q后面的内容换成hello,果然不行了，报了403，服务器禁止了。哎，我还是太naive啊
image.png
那么，肯定请求参数里还有一些参数是实时根据内容变化的，很容易注意的tk这个参数。tk=272537.149261，一串数字，你在谷歌翻译里换其它字符串测试，就会发现其它参数基本都一样，只有这个tk不一样.但是呢？以我目前这个水平，是没有能力破解的，于是百度之。果然有大神已经破解了这个tk，但是因为tk的生成是js生成的，所以很多人直接选择了node.js来实现这个爬虫，但是我已经习惯了强大方便的python requests库，所以还是选择继续用python,找了很久才找到python 版本，现在分享出来。
import requestsimport jsonfrom bs4 import BeautifulSoupimport execjs #必须，需要先用pip 安装，用来执行js脚本class Py4Js(): def __init__(self): self.ctx = pile(""" function TL(a) { var k = ""; var b = 406644; var b1 = 3293161072; var jd = "."; var $b = "+-a^+6"; var Zb = "+-3^+b+-f"; for (var e = [], f = 0, g = 0; g < a.length; g++) { var m = a.charCodeAt(g); 128 > m ? e[f++] = m : (2048 > m ? e[f++] = m >> 6 | 192 : (55296 == (m & 64512) && g + 1 < a.length && 56320 == (a.charCodeAt(g + 1) & 64512) ? (m = 65536 + ((m & 1023) << 10) + (a.charCodeAt(++g) & 1023), e[f++] = m >> 18 | 240, e[f++] = m >> 12 & 63 | 128) : e[f++] = m >> 12 | 224, e[f++] = m >> 6 & 63 | 128), e[f++] = m & 63 | 128) } a = b; for (f = 0; f < e.length; f++) a += e[f], a = RL(a, $b); a = RL(a, Zb); a ^= b1 || 0; 0 > a && (a = (a & 2147483647) + 2147483648); a %= 1E6; return a.toString() + jd + (a ^ b) }; function RL(a, b) { var t = "a"; var Yb = "+"; for (var c = 0; c < b.length - 2; c += 3) { var d = b.charAt(c + 2), d = d >= t ? d.charCodeAt(0) - 87 : Number(d), d = b.charAt(c + 1) == Yb ? a >>> d: a << d; a = b.charAt(c) == Yb ? a + d & 4294967295 : a ^ d } return a } """) def getTk(self,text): return self.ctx.call("TL",text)def buildUrl(text,tk): baseUrl='/translate_a/single' baseUrl+='?client=t&' baseUrl+='s1=auto&' baseUrl+='t1=zh-CN&' baseUrl+='h1=zh-CN&' baseUrl+='dt=at&' baseUrl+='dt=bd&' baseUrl+='dt=ex&' baseUrl+='dt=ld&' baseUrl+='dt=md&' baseUrl+='dt=qca&' baseUrl+='dt=rw&' baseUrl+='dt=rm&' baseUrl+='dt=ss&' baseUrl+='dt=t&' baseUrl+='ie=UTF-8&' baseUrl+='oe=UTF-8&' baseUrl+='otf=1&' baseUrl+='pc=1&' baseUrl+='ssel=0&' baseUrl+='tsel=0&' baseUrl+='kc=2&' baseUrl+='tk='+str(tk)+'&' baseUrl+='q='+text return baseUrldef translate(text): header={ 'authority':'', 'method':'GET', 'path':'', 'scheme':'https', 'accept':'*/*', 'accept-encoding':'gzip, deflate, br', 'accept-language':'zh-CN,zh;q=0.9', 'cookie':'', 'user-agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.108 Safari/537.36','x-client-data':'CIa2yQEIpbbJAQjBtskBCPqcygEIqZ3KAQioo8oBGJGjygE=' } url=buildUrl(text,js.getTk(text)) res='' try: r=requests.get(url) result=json.loads(r.text) if result[7]!=None: # 如果我们文本输错，提示你是不是要找xxx的话，那么重新把xxx正确的翻译之后返回 try: correctText=result[7][0].replace('<b><i>',' ').replace('</i></b>','') print(correctText) correctUrl=buildUrl(correctText,js.getTk(correctText)) correctR=requests.get(correctUrl) newResult=json.loads(correctR.text) res=newResult[0][0][0] except Exception as e: print(e) res=result[0][0][0] else: res=result[0][0][0] except Exception as e: res='' print(url) print("翻译"+text+"失败") print("错误信息:") print(e) finally: return resif __name__ == '__main__': js=Py4Js() res=translate('Всё качественно и быстро!') print(res)
最后
谷歌返回的结果是一个json格式的数据，我们将其变成一个嵌套的list，可以发现该list长度为9，第零个元素就是翻译结果,第七个结果是一些提示信息。如图
image.png
当有提示信息的时候，我们将正确的信息重新翻译一遍，返回。
其次翻译之前一定要先分句，因为我测试这样准确率更高一点，直接一段翻译有时候会面貌全非，但是分开一句句翻译，基本就是人话了。
我目前连续测试上千条语句还没有问题，但是速度有快有慢，而且有时候，如果数据量太大的话，可以采用每翻译一句sleep(1),或者使用代理IP
声明
那段破解的脚本是直接从别人博客复制过来的，但是忘了链接了，抱歉!
