3 ExperimentsThis section presents

3 Experiments
This section presents experiments on the benchmark
FB15K introduced in (Bordes et al., 2013)
and on FAMILY, a slightly extended version of the
artificial database described in (Garc´ıa-Duran et ´
al., 2014). Table 1 gives their statistics.
3.1 Experimental Protocol
Data FB15K is a subset of Freebase, a very
large database of generic facts gathering more than
1.2 billion triples and 80 million entities. Inspired
by (Hinton, 1986), FAMILY is a database that
contains triples expressing family relationships
(cousin of, has ancestor, married to, parent of,
related to, sibling of, uncle of) among the members
of 5 families along 6 generations. This dataset
is artificial and each family is organized in a layered
tree structure where each layer refers to a generation.
Families are connected among them by
marriage links between two members, randomly
sampled from the same layer of different families.
Interestingly on this dataset, there are obvious
compositional relationships like uncle of ≈
sibling of + parent of or parent of ≈ married to
+ parent of, among others.
Setting Our main comparison is TRANSE so we
followed the same experimental setting as in (Bordes
et al., 2013), using ranking metrics for evaluation.
For each test triple we replaced the head
by each of the entities in turn, and then computed
the score of each of these candidates and sorted
them. Since other positive candidates (i.e. entities
forming true triples) can be ranked higher than the
target one, we filtered out all the positive candidates
existing in either the training, validation and
test set, except the target one, from the ranking
and then we kept the rank of the target entity. The
same procedure is repeated but removing the tail
instead of the head. The filtered mean rank (mean
rank in the rest) is the average of these ranks, and
the filtered Hits@10 (H@10 in the rest) is the proportion
of target entities in the top 10 predictions.
The embedding dimensions were set to 20 for
FAMILY and 100 for FB15K. Training was performed
by stochastic gradient descent, stopping
after for 500 epochs. On FB15K, we used the
embeddings of TRANSE to initialize RTRANSE,
and we set a learning rate of 0.001 to fine-tune
RTRANSE. On FAMILY, both algorithms were initialized
randomly and used a learning rate of 0.01.
The mean rank was used as a validation criterion,
and the values of γ, λ, α and µ were chosen respectively
among {0.25, 0.5, 1}, {1e
−4
, 1e
−5
, 0},
{0.1, 0.05, 0.1, 0.01, 0.005} and {1e
−4
, 1e
−5
, 0}.

Kết quả (Việt) 2:

3 thí nghiệm
Phần này trình bày các thí nghiệm về chuẩn
FB15K giới thiệu trong (Bordes et al., 2013)
và gia đình, một phiên bản hơi mở rộng của các
cơ sở dữ liệu nhân tạo được mô tả trong (Garc'ıa-Duran et
'al., 2014). Bảng 1 đưa ra thống kê của họ.
3.1 nghiệm giao thức
dữ liệu FB15K là một tập hợp con của Freebase, rất
cơ sở dữ liệu lớn các sự kiện chung chung thu thập hơn
1,2 tỷ gấp ba và 80 triệu đơn vị. Lấy cảm hứng
bởi (Hinton, 1986), Gia đình là một cơ sở dữ liệu
chứa gấp ba bày tỏ mối quan hệ gia đình
(anh họ của, có tổ tiên, lập gia đình, mẹ của,
liên quan đến, em ruột của người, chú của) giữa các thành viên
của 5 gia đình cùng 6 thế hệ. Bộ dữ liệu này
là nhân tạo và mỗi gia đình được tổ chức trong một lớp
cấu trúc cây trong đó mỗi lớp đề cập đến một thế hệ.
Các gia đình được kết nối giữa chúng bằng cách
liên kết hôn nhân giữa hai thành viên, ngẫu nhiên
được lấy mẫu từ cùng một lớp của các gia đình khác nhau.
Điều thú vị về số liệu này, có là rõ ràng
mối quan hệ thành phần như chú của ≈
em ruột của + mẹ của cha, mẹ của ≈ kết hôn với
+ mẹ, trong số những người khác.
Thiết so sánh chính của chúng tôi là Transe vì vậy chúng tôi
theo các thiết lập thí nghiệm tương tự như trong (Bordes
et al., 2013), sử dụng số liệu bảng xếp hạng để đánh giá.
Đối với mỗi bài kiểm tra ba chúng tôi thay thế người đứng đầu
của mỗi thực thể trong lần lượt, và sau đó tính
số điểm của mỗi của các ứng cử viên và sắp xếp
chúng. Kể từ khi ứng cử viên tích cực khác (tức là thực thể
tạo thành bộ ba true) có thể được xếp hạng cao hơn so với
một mục tiêu, chúng tôi lọc ra tất cả các ứng cử viên tích cực
hiện tại hoặc là đào tạo, xác nhận và
kiểm tra bộ, ngoại trừ một trong những mục tiêu, từ các bảng xếp hạng
và sau đó chúng tôi giữ cấp bậc của các thực thể mục tiêu. Các
thủ tục tương tự được lặp đi lặp lại nhưng loại bỏ các đuôi
thay vì đầu. Các cấp bậc bình lọc (có nghĩa là
thứ hạng trong phần còn lại) là trung bình của các cấp bậc, và
Hits lọc @ 10 (H @ 10 trong phần còn lại) là tỷ lệ
của các đơn vị mục tiêu trong 10 dự đoán hàng đầu.
Các kích thước nhúng được thiết lập để 20 cho
gia đình và 100 cho FB15K. Đào tạo được thực hiện
bởi stochastic gradient descent, dừng lại
sau khi cho 500 kỷ nguyên. Trên FB15K, chúng tôi sử dụng các
embeddings của Transe để khởi tạo RTRANSE,
và chúng tôi thiết lập một tỷ lệ học tập của 0.001 để tinh chỉnh
RTRANSE. Trên FAMILY, cả hai thuật toán đã được khởi tạo
ngẫu nhiên và được sử dụng một tỷ lệ học của 0,01.
Việc xếp hạng trung bình đã được sử dụng như một tiêu chuẩn xác nhận,
và các giá trị của γ, λ, α và μ được chọn tương ứng
trong số {0.25, 0.5, 1}, { 1e
-4, 1e -5, 0}, {0,1, 0,05, 0,1, 0,01, 0,005} và {1e -4, 1e -5, 0}.