Tipask3.3问答采集内容数据批量入库脚本

步骤: 1)tipask对应的数据库内,新建一张表,存放采集数据,字段及格式为: q_title:提问标题 q_update:提问时间 q_desc:提问描述 a_list:回答内容;每个人的回答以“|||”为分隔,...

步骤:

1)tipask对应的数据库内,新建一张表,存放采集数据,字段及格式为:

attachments-2019-04-KSKPea2N5cb5669dc3a26.jpg

q_title:提问标题

q_update:提问时间

q_desc:提问描述

a_list:回答内容;每个人的回答以“|||”为分隔,如:不错啊|||很好|||谢谢楼主帮忙

a_update:回答时间;同样以“|||”分隔



2)执行入库脚本,python写的

# coding:utf-8


import MySQLdb as mdb

import datetime,time,re,sys,random


reload(sys)

sys.setdefaultencoding('utf-8')


con = mdb.connect('127.0.0.1','root','{pasword}','wenda_gogochuan',charset = 'utf8mb4',unix_socket='/tmp/mysql.sock')

con2 = mdb.connect('127.0.0.1','root','{pasword}','wenda_gogochuan',charset = 'utf8mb4',unix_socket='/tmp/mysql.sock')


def sql_w(sql):

cur = con.cursor()

try:

cur.execute(sql)

con.commit()

except:

con.rollback()

print "Error!!!"

print sql

sys.exit()


def sql_r_num(sql):

cur = con.cursor()

cur.execute(sql)

data = cur.fetchone()

return data[0]


user_nums = sql_r_num("select max(id) from ask_users")



def random_date_q():

a1=(2018,12,1,0,0,0,0,0,0)              #设置开始日期时间元组(1976-01-01 00:00:00)

a2=(2019,4,1,0,0,0,0,0,0)    #设置结束日期时间元组(1990-12-31 23:59:59)


start=time.mktime(a1)    #生成开始时间戳

end=time.mktime(a2)      #生成结束时间戳


#随机生成日期字符串

t=random.randint(start,end)    #在开始和结束时间戳中随机取出一个

date_touple=time.localtime(t)          #将时间戳生成时间元组

date=time.strftime("%Y-%m-%d %H:%M:%S",date_touple)  #将时间元组转成格式化字符串(1976-05-21)

return date


def random_date_a():

a1=(2019,3,1,0,0,0,0,0,0)              #设置开始日期时间元组(1976-01-01 00:00:00)

a2=(2019,4,14,0,0,0,0,0,0)    #设置结束日期时间元组(1990-12-31 23:59:59)


start=time.mktime(a1)    #生成开始时间戳

end=time.mktime(a2)      #生成结束时间戳


#随机生成日期字符串

t=random.randint(start,end)    #在开始和结束时间戳中随机取出一个

date_touple=time.localtime(t)          #将时间戳生成时间元组

date=time.strftime("%Y-%m-%d %H:%M:%S",date_touple)  #将时间元组转成格式化字符串(1976-05-21)

return date


max_qid = sql_r_num("select max(id) from ask_questions")

if max_qid ==  None:   #ask_questions没有数据,首次导入

max_qid = 1


with con:

cur = con.cursor()

cur.execute("select * from caiji")

nums = int(cur.rowcount)

for i in range(nums):

row = cur.fetchone()

q_title = row[0]

q_update = row[1]

q_desc = row[2]

a_list = row[3].split('|||')

a_update = row[4].split('|||')

a_num = len(a_list)

updatetime = random_date_q()

print ">>> qid: %s" % (max_qid + i)

print q_title

sql_ask_questions = '''INSERT INTO ask_questions (user_id,category_id,title,description,price,hide,answers,views,followers,collections,comments,device,status,created_at,updated_at) VALUES (%s,%s,"%s","%s",%s,%s,%s,%s,%s,%s,%s,%s,%s,"%s","%s")''' % (

random.randint(3,user_nums), #user_id

0,#category_id

q_title.replace('"','\''),#title

q_desc.replace('"','\''),#description

0,#price

0,#hide

a_num,#answers

random.randint(50,300),#views

random.randint(0,30),#followers

0,#collections

0,#comments

1,#device

1,#status

updatetime,#created_at

updatetime,#updated_at

)

sql_w(sql_ask_questions)

for content in a_list:

a_date = random_date_a()

sql_ask_answers = '''INSERT INTO ask_answers (question_title,question_id,user_id,content,supports,oppositions,comments,device,status,adopted_at,created_at,updated_at) VALUES ("%s",%s,%s,"%s",%s,%s,%s,%s,%s,%s,"%s","%s")''' % (

q_title.replace('"','\''), #question_title

max_qid + i, #question_id

random.randint(3,user_nums), #user_id

content.replace('"','\''), #content

0,#supports

0,#oppositions

0,#comments

1,#device

1,#status

"Null",#adopted_at

a_date, #created_at

a_date, #updated_at

)

sql_w(sql_ask_answers)


==============================================================

尴尬,这编辑器好像没办法发代码,需要的同学到这领取代码即可:https://www.gogochuang.com/post/56.html

其实就是将采集内容往:ask_answers、ask_questions这两个表里灌

  • 发表于 2019-04-16 13:26
  • 阅读 ( 292 )
  • 分类:网站建设

你可能感兴趣的文章

相关问题

0 条评论

请先 登录 后评论
GoGo闯
GoGo闯

1 篇文章

作家榜 »

  1. sdf_sky 36 文章
  2. 福泽天下 17 文章
  3. 胡园园 6 文章
  4. 张子豪 5 文章
  5. 0750.tv 5 文章
  6. 币圈问道 4 文章
  7. 法务网 4 文章
  8. 三叔 3 文章