百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程字典 > 正文

画像笔记6- (标签总原则)非实时标签-统计类标签-近30日行为标签

toyiye 2024-06-21 12:38 10 浏览 0 评论

续昨天。

标签数据的开发,主要包括 离线标签开发、实时类标签开发、用户特征库开发、人群计算、打通数据服务层等开发内容。

离线标签

主要包含:统计类标签、规则类标签、挖掘类标签。

实时类标签

针对给用户展现实时性较强的场景:首页新人弹窗、新人红包

用户特征库

围绕用户每次行为明细记录相关数据,如用户浏览、搜索、收藏、下单等行为明细。一般该特征库按日做时间分区。

人群计算

应用在数据服务层之前,业务方需要组合用户的标签来筛选出对应的人群,通过人群计算功能组合标签划分出对应的人群。

打通数据服务区层,

将业务规则圈出来的用户人群推送到不同的业务系统上去。

统计类标签开发:

统计类标签指的统计用户相关数值、客观描述用户状态的标签,如用户的年龄、体重、累计购买金额、累计购买次数、近30日登陆次数等。

userid维度的用户标签表可按日分区,设计为如下结构:


案例1,离线标签

近30日购买行为这个二级类目进行拆解,可将其拆解为:付款订单量(ACTION_U_01_001)、总付款金额(ACTION_U_01_002)、加入购物车次数(ACTION_U_01_003)

将需要计算的标签从目标表中抽取出来:




union all 表示把各个结果集的数据按照列名进行合并,而且不会消除重复的数据。

比如第一个查询有100条两列,第二个查询结果也为160条两列,故使用union all之后,可以将这两个结果合并成一个,变成260行两列。

可参考csdn::https://blog.csdn.net/helloxiaozhe/article/details/88598003

保证每天作业将近30日的标签打在每个有相应行为的用户身上,单要做到增量获取用户最新状态,还需要做一层全连接关联。

举个常见的例子,某个用户前天购买了3单商品,如果昨天又购买了2单,则今天最新的状态是3+2=5单,替换掉前天3单的权重值,

如果昨天没有购买行为,则权重值仍为3.


关注下NVL()函数,

NVL( string1, replace_with):给值为NULL的数据赋值:如果string1为NULL,则NVL函数返回replace_with的值,否则返回string1的值;如果两个参数都为NULL ,则返回NULL。

给labelweight 赋值,如果最新的有数据t2.labelweight,则用最新的,否则用老的(t1.labelweight)。

上面脚本old_date_partition 为设置的一个日期变量,每日传入的数值都不同:


这段代码中对第二段代码做了一层Spark 封装,

另外,上面的代码做了一层Spark封装,可将第二段的HiveSQL语句提交到Spark集群上执行。提交Spark任务计算该标签

“spark-submit --master yarn --deploy-mode client --driver-memroy 1g --executor-memory 2g --executor-cores 2 --num-executors 50 userprfile_latest_30days_label.py start-date”

其中spark-submit的参数设置如下:

  • deploy-mode:在本地(Client)启动Driver 还是在集群上(Cluster)启动Driver;
  • driver-memory:Driver 端内存大小;
  • executor-memory:Executor端内存大小;
  • executor-cores:每个Executor 核数
  • num-executors:启动Executor的数量。

class:如果是JAR或Scala程序的jar包,该参数对应应用程序的主类,对于提交的Python脚本,不用提交该参数。


解释下strptime:


解释下datetime. timedelta


old_date_partition = strftime(strptime(start_date_str,format) - datetime.timedelta(1),format) // 获取1天前的日期,按照format 输出(%Y%M%D)

month_day_ago = strftime(strptime(start_date_str,format) - datetime.timedelta(1),format) //获取一个月钱的日期,按照format输出(%Y%M%D)


用户最近30日购买行为标签

第一个用户 “44463729”

付款订单量(ACTION_U_01_001): 付款订单量为3 ,一天就下三单,不错嘛。

第六个用户“32101029”

总付款金额(ACTION_U_01_002) : 157元 , 还可以啊,一天买了157块

第七个用户“23551034”

加入购物车次数(ACTION_U_01_003) :16次,没买东西,看来转化不行啊。

相关推荐

为何越来越多的编程语言使用JSON(为什么编程)

JSON是JavascriptObjectNotation的缩写,意思是Javascript对象表示法,是一种易于人类阅读和对编程友好的文本数据传递方法,是JavaScript语言规范定义的一个子...

何时在数据库中使用 JSON(数据库用json格式存储)

在本文中,您将了解何时应考虑将JSON数据类型添加到表中以及何时应避免使用它们。每天?分享?最新?软件?开发?,Devops,敏捷?,测试?以及?项目?管理?最新?,最热门?的?文章?,每天?花?...

MySQL 从零开始:05 数据类型(mysql数据类型有哪些,并举例)

前面的讲解中已经接触到了表的创建,表的创建是对字段的声明,比如:上述语句声明了字段的名称、类型、所占空间、默认值和是否可以为空等信息。其中的int、varchar、char和decimal都...

JSON对象花样进阶(json格式对象)

一、引言在现代Web开发中,JSON(JavaScriptObjectNotation)已经成为数据交换的标准格式。无论是从前端向后端发送数据,还是从后端接收数据,JSON都是不可或缺的一部分。...

深入理解 JSON 和 Form-data(json和formdata提交区别)

在讨论现代网络开发与API设计的语境下,理解客户端和服务器间如何有效且可靠地交换数据变得尤为关键。这里,特别值得关注的是两种主流数据格式:...

JSON 语法(json 语法 priority)

JSON语法是JavaScript语法的子集。JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔花括号保存对象方括号保存数组JS...

JSON语法详解(json的语法规则)

JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔大括号保存对象中括号保存数组注意:json的key是字符串,且必须是双引号,不能是单引号...

MySQL JSON数据类型操作(mysql的json)

概述mysql自5.7.8版本开始,就支持了json结构的数据存储和查询,这表明了mysql也在不断的学习和增加nosql数据库的有点。但mysql毕竟是关系型数据库,在处理json这种非结构化的数据...

JSON的数据模式(json数据格式示例)

像XML模式一样,JSON数据格式也有Schema,这是一个基于JSON格式的规范。JSON模式也以JSON格式编写。它用于验证JSON数据。JSON模式示例以下代码显示了基本的JSON模式。{"...

前端学习——JSON格式详解(后端json格式)

JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式。易于人阅读和编写。同时也易于机器解析和生成。它基于JavaScriptProgrammingLa...

什么是 JSON:详解 JSON 及其优势(什么叫json)

现在程序员还有谁不知道JSON吗?无论对于前端还是后端,JSON都是一种常见的数据格式。那么JSON到底是什么呢?JSON的定义...

PostgreSQL JSON 类型:处理结构化数据

PostgreSQL提供JSON类型,以存储结构化数据。JSON是一种开放的数据格式,可用于存储各种类型的值。什么是JSON类型?JSON类型表示JSON(JavaScriptO...

JavaScript:JSON、三种包装类(javascript 包)

JOSN:我们希望可以将一个对象在不同的语言中进行传递,以达到通信的目的,最佳方式就是将一个对象转换为字符串的形式JSON(JavaScriptObjectNotation)-JS的对象表示法...

Python数据分析 只要1分钟 教你玩转JSON 全程干货

Json简介:Json,全名JavaScriptObjectNotation,JSON(JavaScriptObjectNotation(记号、标记))是一种轻量级的数据交换格式。它基于J...

比较一下JSON与XML两种数据格式?(json和xml哪个好)

JSON(JavaScriptObjectNotation)和XML(eXtensibleMarkupLanguage)是在日常开发中比较常用的两种数据格式,它们主要的作用就是用来进行数据的传...

取消回复欢迎 发表评论:

请填写验证码