Skip to content

aDecisionTree/Urban-Region-Function-Classification

 
 

Repository files navigation

团队介绍

队名:海疯习习

成员:

  • 朱群喜,复旦大学数学系博士,目前在哈佛医学院交流;
  • 周杰,华东师范大学计算机系博士,目前在加拿大约克大学交流,曾获得KDD CUP 2017KDD CUP 2018 Top3.

名次:初赛第一,决赛第一

任务描述

给定用户访问数据和卫星图片,判断城市用地功能,包括Residential area, School, Industrial park, Railway station, Airport, Park, Shopping area, Administrative district和Hospital9个类别,具体任务描述见官网

Environmental Requirement

  • Python 3.6
  • Pytorch 0.4.0
  • sklearn
  • numpy
  • XGboost
  • Lightgbm

思路

特征

  • 用户Basic特征

    • 1)提取一个地区不同时间段(节假日,工作日,休息日)的统计特征,包括sum,mean,max等8个统计量,由于特征维度过大,使用RF进行特征选择
  • 用户id特征挖掘

    • 1)统计一个用户出现在不同的地方次数,这里以一天表示1次,然后特征中对8个统计量进行统计(注意:样本统计中需要将去当前样本的信息,从而防止透露label信息而过拟合)(主要特征,直接到线上86+)
    • 2)统计一个用户全局的Global特征,及一个用户在不同地方次数的统计信息(ps:online的提高也有将近1个百分点)
    • 3)用户有规律出入到特征统计,如统计用户节假日情况,将一天分成四个时间段统计用户在这些时间段特征。
  • 初赛和复赛数据合并,从40w增加到44w样本(复赛大概提高1个点)

模型

  • 深度学习模型
    • 1)图像特征抽取使Densenet121,获得样本概率,用于stacking(线下0.566375)
    • 2)7×26×24特征用dpn26网络进行训练,得到样本概率,用于stacking(线下0.643914)
  • 机器学习模型
    • 1)Lightgbm模型和Xgboost模型,除了学习率和迭代次数,其他使用默认参数,结合前面抽取特征 (线下0.907)
  • stacking
    • 使用Lightgbm进行Stacking (线下0.910786,线上0.90203)

代码使用说明

感想

朱群喜:第一次参加这么大型还有奖金的比赛,有所感想。作为一名马上要迈入4年级的应用数学专业的直博生,最近陷入了学术的挣扎中,心中的滋味也就自己能体会。偶然间,不知是从哪里,发现了这个比赛,看着标题和奖金感觉挺有吸引力的。仔细想了想,决定去玩一玩,算是排解下压力,转移下注意力。参加比赛的各个队伍都是实力不凡的,这次比赛给大家提供了一个互相交流学习的平台。非常感谢队友华师大NLP周杰(一个热爱在知乎回答问题和github上开源的的少年),以及开源baseline_1baseline_2的大佬们,还有写这篇blog的博主,当然也感谢赛事主办方联合国教科文组织国际工程科技知识中心(IKCEST)、中国工程科技知识中心(CKCEST)、百度公司及西安交通大学的大力支持。

周杰:楼上大佬有些谦虚,是我本科校友,一直特别认真,这次比赛也是废寝忘食。本人小白有幸参与。也算是一直做学术觉得乏味来参与比赛,提高实践能力同时提高对数据对敏锐度。坚信对于任何比赛,付出时间就不会太差,其他事情也是一样,共勉。

Contacts

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Python 100.0%