github.com/linapex/ethereum-dpos-chinese@v0.0.0-20190316121959-b78b3a4a1ece/p2p/discv5/database.go (about) 1 2 //<developer> 3 // <name>linapex 曹一峰</name> 4 // <email>linapex@163.com</email> 5 // <wx>superexc</wx> 6 // <qqgroup>128148617</qqgroup> 7 // <url>https://jsq.ink</url> 8 // <role>pku engineer</role> 9 // <date>2019-03-16 12:09:43</date> 10 //</624342656557780992> 11 12 13 //包含节点数据库,存储以前看到的节点和收集的所有 14 //用于QoS的元数据。 15 16 package discv5 17 18 import ( 19 "bytes" 20 "crypto/rand" 21 "encoding/binary" 22 "fmt" 23 "os" 24 "sync" 25 "time" 26 27 "github.com/ethereum/go-ethereum/crypto" 28 "github.com/ethereum/go-ethereum/log" 29 "github.com/ethereum/go-ethereum/rlp" 30 "github.com/syndtr/goleveldb/leveldb" 31 "github.com/syndtr/goleveldb/leveldb/errors" 32 "github.com/syndtr/goleveldb/leveldb/iterator" 33 "github.com/syndtr/goleveldb/leveldb/opt" 34 "github.com/syndtr/goleveldb/leveldb/storage" 35 "github.com/syndtr/goleveldb/leveldb/util" 36 ) 37 38 var ( 39 nodeDBNilNodeID = NodeID{} //要用作nil元素的特殊节点ID。 40 nodeDBNodeExpiration = 24 * time.Hour //删除未查看节点的时间。 41 nodeDBCleanupCycle = time.Hour //运行过期任务的时间段。 42 ) 43 44 //nodedb存储我们知道的所有节点。 45 type nodeDB struct { 46 lvl *leveldb.DB //与数据库本身的接口 47 self NodeID //拥有节点ID以防止将其添加到数据库中 48 runner sync.Once //确保我们最多可以启动一个到期日 49 quit chan struct{} //向过期线程发出停止信号的通道 50 } 51 52 //节点数据库的架构布局 53 var ( 54 nodeDBVersionKey = []byte("version") //更改时要刷新的数据库版本 55 nodeDBItemPrefix = []byte("n:") //为节点条目加前缀的标识符 56 57 nodeDBDiscoverRoot = ":discover" 58 nodeDBDiscoverPing = nodeDBDiscoverRoot + ":lastping" 59 nodeDBDiscoverPong = nodeDBDiscoverRoot + ":lastpong" 60 nodeDBDiscoverFindFails = nodeDBDiscoverRoot + ":findfail" 61 nodeDBDiscoverLocalEndpoint = nodeDBDiscoverRoot + ":localendpoint" 62 nodeDBTopicRegTickets = ":tickets" 63 ) 64 65 //newnodedb创建一个新的节点数据库,用于存储和检索有关的信息 66 //网络中的已知对等点。如果没有给定路径,则内存中的 67 //数据库已构建。 68 func newNodeDB(path string, version int, self NodeID) (*nodeDB, error) { 69 if path == "" { 70 return newMemoryNodeDB(self) 71 } 72 return newPersistentNodeDB(path, version, self) 73 } 74 75 //newmemorynodedb创建一个新的内存节点数据库,而不使用持久的 76 //后端。 77 func newMemoryNodeDB(self NodeID) (*nodeDB, error) { 78 db, err := leveldb.Open(storage.NewMemStorage(), nil) 79 if err != nil { 80 return nil, err 81 } 82 return &nodeDB{ 83 lvl: db, 84 self: self, 85 quit: make(chan struct{}), 86 }, nil 87 } 88 89 //newpersistentnodedb创建/打开一个支持leveldb的持久节点数据库, 90 //同时在版本不匹配的情况下刷新其内容。 91 func newPersistentNodeDB(path string, version int, self NodeID) (*nodeDB, error) { 92 opts := &opt.Options{OpenFilesCacheCapacity: 5} 93 db, err := leveldb.OpenFile(path, opts) 94 if _, iscorrupted := err.(*errors.ErrCorrupted); iscorrupted { 95 db, err = leveldb.RecoverFile(path, nil) 96 } 97 if err != nil { 98 return nil, err 99 } 100 //缓存中包含的节点对应于某个协议版本。 101 //如果版本不匹配,则刷新所有节点。 102 currentVer := make([]byte, binary.MaxVarintLen64) 103 currentVer = currentVer[:binary.PutVarint(currentVer, int64(version))] 104 105 blob, err := db.Get(nodeDBVersionKey, nil) 106 switch err { 107 case leveldb.ErrNotFound: 108 //找不到版本(即空缓存),请将其插入 109 if err := db.Put(nodeDBVersionKey, currentVer, nil); err != nil { 110 db.Close() 111 return nil, err 112 } 113 114 case nil: 115 //存在版本,如果不同则刷新 116 if !bytes.Equal(blob, currentVer) { 117 db.Close() 118 if err = os.RemoveAll(path); err != nil { 119 return nil, err 120 } 121 return newPersistentNodeDB(path, version, self) 122 } 123 } 124 return &nodeDB{ 125 lvl: db, 126 self: self, 127 quit: make(chan struct{}), 128 }, nil 129 } 130 131 //makekey从节点ID及其特定的 132 //感兴趣的领域。 133 func makeKey(id NodeID, field string) []byte { 134 if bytes.Equal(id[:], nodeDBNilNodeID[:]) { 135 return []byte(field) 136 } 137 return append(nodeDBItemPrefix, append(id[:], field...)...) 138 } 139 140 //SplitKey尝试将数据库键拆分为节点ID和字段部分。 141 func splitKey(key []byte) (id NodeID, field string) { 142 //如果键不是节点的,则直接返回 143 if !bytes.HasPrefix(key, nodeDBItemPrefix) { 144 return NodeID{}, string(key) 145 } 146 //否则拆分ID和字段 147 item := key[len(nodeDBItemPrefix):] 148 copy(id[:], item[:len(id)]) 149 field = string(item[len(id):]) 150 151 return id, field 152 } 153 154 //fetchin64检索与特定 155 //数据库密钥。 156 func (db *nodeDB) fetchInt64(key []byte) int64 { 157 blob, err := db.lvl.Get(key, nil) 158 if err != nil { 159 return 0 160 } 161 val, read := binary.Varint(blob) 162 if read <= 0 { 163 return 0 164 } 165 return val 166 } 167 168 //storeInt64将特定数据库条目作为 169 //UNIX时间戳。 170 func (db *nodeDB) storeInt64(key []byte, n int64) error { 171 blob := make([]byte, binary.MaxVarintLen64) 172 blob = blob[:binary.PutVarint(blob, n)] 173 return db.lvl.Put(key, blob, nil) 174 } 175 176 func (db *nodeDB) storeRLP(key []byte, val interface{}) error { 177 blob, err := rlp.EncodeToBytes(val) 178 if err != nil { 179 return err 180 } 181 return db.lvl.Put(key, blob, nil) 182 } 183 184 func (db *nodeDB) fetchRLP(key []byte, val interface{}) error { 185 blob, err := db.lvl.Get(key, nil) 186 if err != nil { 187 return err 188 } 189 err = rlp.DecodeBytes(blob, val) 190 if err != nil { 191 log.Warn(fmt.Sprintf("key %x (%T) %v", key, val, err)) 192 } 193 return err 194 } 195 196 //节点从数据库中检索具有给定ID的节点。 197 func (db *nodeDB) node(id NodeID) *Node { 198 var node Node 199 if err := db.fetchRLP(makeKey(id, nodeDBDiscoverRoot), &node); err != nil { 200 return nil 201 } 202 node.sha = crypto.Keccak256Hash(node.ID[:]) 203 return &node 204 } 205 206 //updateNode将节点插入到对等数据库中(可能会覆盖)。 207 func (db *nodeDB) updateNode(node *Node) error { 208 return db.storeRLP(makeKey(node.ID, nodeDBDiscoverRoot), node) 209 } 210 211 //删除节点删除与节点关联的所有信息/键。 212 func (db *nodeDB) deleteNode(id NodeID) error { 213 deleter := db.lvl.NewIterator(util.BytesPrefix(makeKey(id, "")), nil) 214 for deleter.Next() { 215 if err := db.lvl.Delete(deleter.Key(), nil); err != nil { 216 return err 217 } 218 } 219 return nil 220 } 221 222 //EnsureExpirer是一个小助手方法,可确保数据过期 223 //机制正在运行。如果到期goroutine已经在运行,则 224 //方法只返回。 225 // 226 //目标是在网络成功后才开始数据疏散 227 //引导自身(以防止转储可能有用的种子节点)。自从 228 //准确跟踪第一个成功的 229 //收敛性,在适当的时候“确保”正确的状态比较简单 230 //条件发生(即成功结合),并丢弃进一步的事件。 231 func (db *nodeDB) ensureExpirer() { 232 db.runner.Do(func() { go db.expirer() }) 233 } 234 235 //Expirer应该在Go例程中启动,并负责循环广告 236 //无穷大并从数据库中删除过时数据。 237 func (db *nodeDB) expirer() { 238 tick := time.NewTicker(nodeDBCleanupCycle) 239 defer tick.Stop() 240 for { 241 select { 242 case <-tick.C: 243 if err := db.expireNodes(); err != nil { 244 log.Error(fmt.Sprintf("Failed to expire nodedb items: %v", err)) 245 } 246 case <-db.quit: 247 return 248 } 249 } 250 } 251 252 //expirenodes迭代数据库并删除所有没有 253 //在一段指定的时间内被看见(即收到乒乓球)。 254 func (db *nodeDB) expireNodes() error { 255 threshold := time.Now().Add(-nodeDBNodeExpiration) 256 257 //查找发现的早于允许的节点 258 it := db.lvl.NewIterator(nil, nil) 259 defer it.Release() 260 261 for it.Next() { 262 //如果不是发现节点,则跳过该项 263 id, field := splitKey(it.Key()) 264 if field != nodeDBDiscoverRoot { 265 continue 266 } 267 //如果尚未过期(而不是自己),则跳过节点 268 if !bytes.Equal(id[:], db.self[:]) { 269 if seen := db.lastPong(id); seen.After(threshold) { 270 continue 271 } 272 } 273 //否则删除所有相关信息 274 db.deleteNode(id) 275 } 276 return nil 277 } 278 279 //Lastping检索发送到远程节点的最后一个ping数据包的时间, 280 //请求绑定。 281 func (db *nodeDB) lastPing(id NodeID) time.Time { 282 return time.Unix(db.fetchInt64(makeKey(id, nodeDBDiscoverPing)), 0) 283 } 284 285 //updateLastping更新上次尝试联系远程节点时的更新。 286 func (db *nodeDB) updateLastPing(id NodeID, instance time.Time) error { 287 return db.storeInt64(makeKey(id, nodeDBDiscoverPing), instance.Unix()) 288 } 289 290 //lastpong从远程节点检索上次成功联系的时间。 291 func (db *nodeDB) lastPong(id NodeID) time.Time { 292 return time.Unix(db.fetchInt64(makeKey(id, nodeDBDiscoverPong)), 0) 293 } 294 295 //updateLastpong更新上次成功联系远程节点的时间。 296 func (db *nodeDB) updateLastPong(id NodeID, instance time.Time) error { 297 return db.storeInt64(makeKey(id, nodeDBDiscoverPong), instance.Unix()) 298 } 299 300 //findfails检索自绑定以来findnode失败的次数。 301 func (db *nodeDB) findFails(id NodeID) int { 302 return int(db.fetchInt64(makeKey(id, nodeDBDiscoverFindFails))) 303 } 304 305 //updatefindfails更新自绑定以来findnode失败的次数。 306 func (db *nodeDB) updateFindFails(id NodeID, fails int) error { 307 return db.storeInt64(makeKey(id, nodeDBDiscoverFindFails), int64(fails)) 308 } 309 310 //local endpoint返回与 311 //给定的远程节点。 312 func (db *nodeDB) localEndpoint(id NodeID) *rpcEndpoint { 313 var ep rpcEndpoint 314 if err := db.fetchRLP(makeKey(id, nodeDBDiscoverLocalEndpoint), &ep); err != nil { 315 return nil 316 } 317 return &ep 318 } 319 320 func (db *nodeDB) updateLocalEndpoint(id NodeID, ep rpcEndpoint) error { 321 return db.storeRLP(makeKey(id, nodeDBDiscoverLocalEndpoint), &ep) 322 } 323 324 //queryseeds检索用作潜在种子节点的随机节点 325 //用于引导。 326 func (db *nodeDB) querySeeds(n int, maxAge time.Duration) []*Node { 327 var ( 328 now = time.Now() 329 nodes = make([]*Node, 0, n) 330 it = db.lvl.NewIterator(nil, nil) 331 id NodeID 332 ) 333 defer it.Release() 334 335 seek: 336 for seeks := 0; len(nodes) < n && seeks < n*5; seeks++ { 337 //寻找一个随机条目。第一个字节的增量为 338 //每次随机数以增加可能性 339 //攻击非常小的数据库中的所有现有节点。 340 ctr := id[0] 341 rand.Read(id[:]) 342 id[0] = ctr + id[0]%16 343 it.Seek(makeKey(id, nodeDBDiscoverRoot)) 344 345 n := nextNode(it) 346 if n == nil { 347 id[0] = 0 348 continue seek //迭代器已用完 349 } 350 if n.ID == db.self { 351 continue seek 352 } 353 if now.Sub(db.lastPong(n.ID)) > maxAge { 354 continue seek 355 } 356 for i := range nodes { 357 if nodes[i].ID == n.ID { 358 continue seek //复制品 359 } 360 } 361 nodes = append(nodes, n) 362 } 363 return nodes 364 } 365 366 func (db *nodeDB) fetchTopicRegTickets(id NodeID) (issued, used uint32) { 367 key := makeKey(id, nodeDBTopicRegTickets) 368 blob, _ := db.lvl.Get(key, nil) 369 if len(blob) != 8 { 370 return 0, 0 371 } 372 issued = binary.BigEndian.Uint32(blob[0:4]) 373 used = binary.BigEndian.Uint32(blob[4:8]) 374 return 375 } 376 377 func (db *nodeDB) updateTopicRegTickets(id NodeID, issued, used uint32) error { 378 key := makeKey(id, nodeDBTopicRegTickets) 379 blob := make([]byte, 8) 380 binary.BigEndian.PutUint32(blob[0:4], issued) 381 binary.BigEndian.PutUint32(blob[4:8], used) 382 return db.lvl.Put(key, blob, nil) 383 } 384 385 //从迭代器读取下一个节点记录,跳过其他节点记录 386 //数据库条目。 387 func nextNode(it iterator.Iterator) *Node { 388 for end := false; !end; end = !it.Next() { 389 id, field := splitKey(it.Key()) 390 if field != nodeDBDiscoverRoot { 391 continue 392 } 393 var n Node 394 if err := rlp.DecodeBytes(it.Value(), &n); err != nil { 395 log.Warn(fmt.Sprintf("invalid node %x: %v", id, err)) 396 continue 397 } 398 return &n 399 } 400 return nil 401 } 402 403 //关闭刷新并关闭数据库文件。 404 func (db *nodeDB) close() { 405 close(db.quit) 406 db.lvl.Close() 407 } 408