教育房产时事环球科技商业
投稿投诉
商业财经
热点动态
科技数码
软件应用
国际环球
晨报科学
新闻时事
信息智能
汽车房产
办公手机
教育体育
生活生物

如何采集数据(数据的收集方法6种)

  如何采集数据(数据的收集方法6种)编辑导读:随着"数智化"时代的到来,我们生活中的方方面面都离不开数据,而你真的了解数据吗?本文将为你重新解读数据的概念和价值,以及数据的价值是如何在"数智化"时代下一步一步得到运用与升华的;因内容颇多,笔者将分几期为大家进行讲解。
  一、前言
  上一期文章中,我们已经了解到"数据"是一个庞大的体系(如下图所示)这篇文章把数据讲透了(一):数据来源;并用了菜市场的例子,为大家讲解数据来源的含义;而今天小陈主要给大家到了指定"菜市场"后,我们怎样"买菜",即数据采集的过程。
  二、数据采集(买菜)
  首先,我们先对数据采集的方式进行一个简单的分类介绍,后面分别介绍每一种数据采集形式需要注意的要点。
  1. 按数据采集方式
  线下(问卷、实地调研)——注意要点:遵循5大要素!
  5个要素:
  1)紧紧围绕研究主题和目的
  评价一份问卷调查优劣程度的准则中很重要的一点就是,问卷内容是否贴合研究主题,就算一份问卷设计得再精妙,如果与主题无关,也是毫无价值的,因为我们开展问卷调查的本质目的也是调查相关要素和调研群体背后千丝万缕的联系。
  例如,调查用户满意度,一般涉及到产品本身(价格、包装等)和受众特点(年龄、地域、心理满足等)两个维度。
  2)题目易读、易理解、且具有一般性
  问卷分发后,是需要受众进行填写的,所以问卷的易理解程度也最终决定者问卷的质量。
  问卷并不是学术论文,不需要为了彰显专业素养而涉及很多专业、晦涩难懂的词汇,让调查者能够真的看懂才是关键。
  而一般性则指的是这个问题的设置是否对所有受众都具普遍意义。例如,调查居民出行方式的问卷中,你认为最安全的交通工具是,A火车 B飞机 C宝马小轿车 D电动车,我们可以看到C选项不具有普遍意义,且和A、B、D不是一个维度的选项。
  3)充分考虑被调者特点
  在使用问卷调查方式时,要充分结合被调群体的特色,来进行问卷的设置;例如针对学龄前儿童和老年人,则不宜采取书面问卷调研的形式,要充分考虑到他们的语言偏好(有些老人可能普通话不标准,但方言流利)、对内容的理解能力,再派出访谈调研小组进行调研。
  4)充分考虑问题排序(循序渐进)
  问卷问题的设置除了考虑每个问题的规范性、合理性外,还需要考虑到问题与问题之间的逻辑性和连贯性,避免时间、空间、人称等维度的频繁跳跃。
  5)充分考虑统计便利性
  除了考虑问卷调查的受众外,问卷设置还需要充分考虑后期问卷回收后的统计分析;尽可能减少后期工作压力,变量不宜设置太多,应该用尽量少的变量高效获取标签信息,帮助后期研究定性。
  线上(按数据采集端口细分为APP端和网页端)
  APP端(主)——数据埋点获得相关数据:
  首先,先和大家科普一下,数据埋点到底是什么?以及APP端为何要特别重视数据埋点。
  其实,所谓埋点就是在用户使用APP的过程中,对他们的一系列行为数据进行收集,以优化产品和运营;而大多APP自带服务和盈利性质(如淘宝、得到等),那么想要实现转化,引导购买就需要将"点"埋到具体的交互组件上(例如,点击跳转链接、购买按钮等),然后对PV、UV;停留时间、跳出率、购买率等指标进行量化。
  就埋点的形式而言,主要分为以下三种:
  代码埋点:控件操作发生时通过预先写好的代码来发送数据,目前百度统计、友盟都提供这一服务。
  下面举一个例子,例如,我们想统计淘宝APP里面加入购物车这个按钮的点击次数,则在其被点击时,可以在这个按钮对应的 OnClick 函数里面调用SDK提供的数据发送接口来发送数据。
  优点:控制发送数据时间,事件自定义属性详细记录;缺点:时间、人力成本大,数据传输的时效性。
  可视化埋点:利用可视化交互手段,通过可视化界面配置控件操作与事件操作发生关系,通过后台截屏的方式采集数据;例如,当用户产生多次刷新这一行动时,结合大数据算法,推算出用户的喜好并切换推送内容、产品,再通过可视化埋点,自动切换到对应的个性化推荐内容页面。
  优点:成本低,速度快,产品、市场等各部门均能参与;缺点:行为记录信息少,支持的分析方式少,减轻开发负担。
  无埋点:用户展现UI界面元素时,平台会通过控件绑定触发事件,事件被触发的时候系统会有相应的接口让开发者处理这些行为;上传UI界面后,系统能够自动识别生成控件的唯一ID,ID是在程序内部生成,只需保证在不同的手机上面这些ID是一样的,就能实现用户端的无埋点数据获取。
  优点:无需埋点,方便快捷;缺点:行为记录信息少,传输压力大。
  网页端——网页爬虫(python,C…):
  就具体语法而言,因为使用工具不同,并不能就具体语法提供指导(大家根据自己使用的语言,在CSDN上进行搜索),但其总体方法论是一致的。
  方法论:人工确定爬取信息的维度→分析目标网站URL构成→确认爬取工具→编写程序语言→获取数据→保存于本地→后续进行数据挖掘。
  三、结语
  本期,笔者通过一个"买菜"的例子,带着大家了解了数据采集的几种方式,相信大家有所收获!
  下期,笔者讲在数据采集的基础上,为大家讲解如何利用常用工具进行数据清洗和数据清洗的几个维度!
  本文由 @小陈同学ing. 原创发布于人人都是产品经理,未经作者许可,禁止转载。
  题图来自Unsplash,基于CC0协议。

震颤的意思(特发性震颤是什么意思)震颤的意思(特发性震颤是什么意思)震颤是运动障碍中非常常见的症状,有时可能就是一个诊断,对于震颤大家都很熟悉,但在诊断和治疗过程中,仍然会碰到很多问题。复旦大学附属华山医院神经内科颤动的意思(震颤是什么意思)颤动的意思(震颤是什么意思)VIB,是vibration的缩写,中文意思是颤动震动,vib是路亚的拟饵之一,特点是下沉快,收线时,vib可以左右摆动,其体内的珠子会因为震动,发出声性情的意思(性情解释和意思)性情的意思(性情解释和意思)最近与同事或领导打交道,总感觉自己很难融入圈内板着一副欠我几千万的马脸孤高又自傲般纠结着矛盾着变态着。一具体现状描述有时候看到人家装模作样的干活,说一些传蜡烛的意思(传蜡烛的意思解释)传蜡烛的意思(传蜡烛的意思解释)去年元夜时,花市灯如昼这是欧阳修在观览元宵节的花灯,爆竹声中一岁除,春风送暖入屠苏。这是王安石在感叹新年的第一天。古人在节日这一天里都有很多庆祝活动造化的意思(个人造化是什么意思)造化的意思(个人造化是什么意思)俗话说造化弄人,天不遂人愿,在生活中,我们难免会有这样感叹的时候。造化弄人这个词,源自于庄子大宗师当中的一个故事。故事说,有一个人在病危之际,已经变旧时王谢堂前燕飞入寻常百姓家(平生突兀看人意而来深知造化功)旧时王谢堂前燕飞入寻常百姓家(平生突兀看人意而来深知造化功)过,逆境造就大文学家,比如李白,如果不是早期一官难求,晚期赐金放还,他就不可能成为诗仙比如杜甫,如果不是他屡试不中,再加科普下塑造人物形象的表现手法有哪些关于到现在塑造人物形象的表现手法有哪些这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道塑造人物形象的表现手法有哪些,小编也科普下塑造人物形象的表现手法有哪些关于到现在塑造人物形象的表现手法有哪些这个话题,相信很多小伙伴都是非常有兴趣了解的吧,因为这个话题也是近期非常火热的,那么既然现在大家都想要知道塑造人物形象的表现手法有哪些,小编也科普下塑造人物形象的表现手法有哪些关于到现在塑造人物形象的表现手法有哪些这个话题相信很多小伙伴都是非常有兴趣了解的吧因为这个话题也是近期非常火热的那么既然现在大家都想要知道塑造人物形象的表现手法有哪些小编也是到网上知识教育是塑造和完善什么的过程关于到现在教育是塑造和完善什么的过程这个话题相信很多小伙伴都是非常有兴趣了解的吧因为这个话题也是近期非常火热的那么既然现在大家都想要知道教育是塑造和完善什么的过程小编也是到网上收集大雨磅礴(大雨磅礴还是滂沱)大雨磅礴(大雨磅礴还是滂沱)今天上午江西省气象台发布最高级别的暴雨红色预警信号,这是今年江西首次拉响暴雨红色警报。修水县遭受严重洪灾。省防总已进入防汛关键时期启动防汛3级应急响应目
足球越位是什么意思(足球什么是越位犯规)足球越位是什么意思(足球什么是越位犯规)106192132张南李越位(Offside)是始创于1874年的足球比赛规则。它对进攻方向前传球时接球运动员允许站到的位置作出严格限制。即琅琊榜多少集(萧景琰做了几年皇帝)琅琊榜多少集(萧景琰做了几年皇帝)什么难以超越?原创202008262359紫依文紫依一卷风云琅琊榜,囊尽天下奇英才。正午阳光的琅琊榜2015年上映,至今已经5年多了,豆瓣评分依然会计职称有哪些(会计类中级职称有哪些)会计职称有哪些(会计类中级职称有哪些)什么是会计?为什么现在会计人员那么多,大家为啥都想投身到这个行业?考各种会计证书的意义都是什么?现在小编就带大家研究研究。一什么是会计这个问题工程师职称分类(工程师职称分类)工程师职称分类(工程师职称分类)202107141254风趣魔都那些事每年都有不计其数的人来到上海在这座城市奋斗,在这座城市安家落户在众多的落户政策中居转户的关注度一直都很高上海市跳棋规则(跳棋的走法图)跳棋规则(跳棋的走法图)今天来说说跳棋的规则。1棋盘棋子跳棋用的是六角星形棋盘。棋子有6种颜色,每种6颗,10颗或15颗。2棋子的下法26人对战(但5人不行)。每人用一种颜色棋子占国际象棋规则图解(国际象棋规则走法)国际象棋规则图解(国际象棋规则走法)初学园地漫谈国际象棋开局的原理星宸国际象棋本公众号致力于国际象棋的基本知识推广,为广大国际象棋爱好者提供一个学习交流提高的专业平台47篇原创内容跳棋比赛规则(跳棋游戏规则说明)跳棋比赛规则(跳棋游戏规则说明)今天来说说跳棋的规则。1棋盘棋子跳棋用的是六角星形棋盘。棋子有6种颜色,每种6颗,10颗或15颗。2棋子的下法26人对战(但5人不行)。每人用一种颜国际跳棋规(跳棋的走法图规则)国际跳棋规(跳棋的走法图规则)1904文明松江同学们,伴随着蓝天白云,路旁的树木郁郁葱葱夏日炎炎,蝉儿齐声歌唱。同学们的暑假生活进行得怎么样了呢?云间的同学们,在这么美丽的暑假,向竞走规则(体育竞走的规则)竞走规则(体育竞走的规则)竞走运动对于全身很多的部位都有着不一样的训练帮助,其节奏越快,对于热量的消耗就越大。那么对于竞走来说有哪些技巧呢?如何走呢?运动健身竞走有哪些技巧需掌握?德国守门员(德国历史门将排名)德国守门员(德国历史门将排名)直播吧9月16日讯近期的国际比赛日刚刚过去,效力于巴萨的德国门将特尔施特根也表达了自己对于替补地位的不满。近日,图片报整理了德国队队史上几次较为著名的守门员排名(世界最强门将排名)守门员排名(世界最强门将排名)直播吧6月25日讯欧洲杯小组赛结束争夺,Squawka统计了门将扑救次数排行,土耳其门将恰基尔18次扑救居首。附欧洲杯小组赛门将扑救排行榜前十位恰基尔