千鋒教育-做有情懷、有良心、有品質的職業教育機構

手機站
千鋒教育

千鋒學習站 | 隨時隨地免費學

千鋒教育

掃一掃進入千鋒手機站

領取全套視頻
千鋒教育

關注千鋒學習站小程序
隨時隨地免費學習課程

當前位置:首頁  >  技術干貨  > 海量日志數據,提取出某日訪問百度次數最多的那個IP

海量日志數據,提取出某日訪問百度次數最多的那個IP

來源:千鋒教育
發布人:syq
時間: 2022-09-08 17:13:04 1662628384

  分析: “首先是這一天,并且是訪問百度的日志中的IP取出來,逐個寫入到一個大文件中。注意到IP是32位的,最多有個2^32個IP。同樣可以采用映射的方法,比如%1000,把整個大文件映射為1000個小文件,再找出每個小文中出現頻率最大的IP(可以采用hash_map對那1000個文件中的所有IP進行頻率統計,然后依次找出各個文件中頻率最大的那個IP)及相應的頻率。然后再在這1000個最大的IP中,找出那個頻率最大的IP,即為所求。”

海量日志數據

  關于本題,還有幾個問題,如下:

  Hash取模是一種等價映射,不會存在同一個元素分散到不同小文件中的情況,即這里采用的是mod1000算法,那么相同的IP在hash取模后,只可能落在同一個文件中,不可能被分散的。因為如果兩個IP相等,那么經過Hash(IP)之后的哈希值是相同的,將此哈希值取模(如模1000),必定仍然相等。

  那到底什么是hash映射呢?

  簡單來說,就是為了便于計算機在有限的內存中處理big數據,從而通過一種映射散列的方式讓數據均勻分布在對應的內存位置(如大數據通過取余的方式映射成小樹存放在內存中,或大文件映射成多個小文件),而這個映射散列方式便是我們通常所說的hash函數,設計的好的hash函數能讓數據均勻分布而減少沖突。

  盡管數據映射到了另外一些不同的位置,但數據還是原來的數據,只是代替和表示這些原始數據的形式發生了變化而已。

tags:
聲明:本站稿件版權均屬千鋒教育所有,未經許可不得擅自轉載。
10年以上業內強師集結,手把手帶你蛻變精英
請您保持通訊暢通,專屬學習老師24小時內將與您1V1溝通
免費領取
今日已有369人領取成功
劉同學 138****2860 剛剛成功領取
王同學 131****2015 剛剛成功領取
張同學 133****4652 剛剛成功領取
李同學 135****8607 剛剛成功領取
楊同學 132****5667 剛剛成功領取
岳同學 134****6652 剛剛成功領取
梁同學 157****2950 剛剛成功領取
劉同學 189****1015 剛剛成功領取
張同學 155****4678 剛剛成功領取
鄒同學 139****2907 剛剛成功領取
董同學 138****2867 剛剛成功領取
周同學 136****3602 剛剛成功領取
相關推薦HOT
久久亚洲中文字幕精品一区四,亚洲日本另类欧美一区二区,久久久久久久这里只有免费费精品,高清国产激情视频在线观看
久久婷婷综合激情亚洲狠狠 | 久久国内中文字幕 | 最新版天堂资源高清在线 | 中文字幕乱码一区二区三区免费 | 最新AV免费在线观看 | 亚洲j激情综合一区 |